Yapay zeka için BMGK’de kritik uyarı: Risk büyüyor
Yapay zeka yöneticileri, BMGK toplantısında teknolojinin fırsatlarını ve kötüye kullanım ile kontrol kaybı dahil küresel risklerini değerlendirdi.
OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’nde yapay zeka ve uluslararası güvenlik başlığıyla düzenlenen toplantıda teknolojinin geleceğine ilişkin değerlendirmelerde bulundu. İki yönetici, hızlı ilerlemenin sunduğu fırsatların yanı sıra ciddi güvenlik risklerini de beraberinde getirdiğine dikkat çekti.
Sam Altman, yapay zeka modellerindeki gelişimin olumlu sonuçları daha görünür hale getirirken riskleri de acil bir sorun haline getirdiğini belirtti. Altman’a göre teknoloji, yaratıcılık ve keşiflerle şekillenen yeni bir rönesansın kapısını açabileceği gibi, büyük sarsıntıların yaşandığı yeni bir sanayi devrimine de dönüşebilir.
OpenAI yöneticisi, yapay zekanın insanları büyük bir sistemin parçalarına indirgememesi ve hayatın her alanını insani boyutu ortadan kaldıracak şekilde optimize etmemesi gerektiğini söyledi. Altman, bu sistemlerin insanların bugün ulaşılması zor görünen hedeflerine yaklaşmasını sağlayacak yeni araçlar olarak değerlendirilmesi gerektiğini ifade etti.
Gelişim hızlanırken insan denetimi vurgusu
Altman, yapay zeka sistemlerinin daha yetenekli ve bağımsız hale gelmesinin dünya üzerindeki güç dengelerini değiştirebileceğini kaydetti. Modellerin kendi gelişim süreçlerine daha fazla katkı sunması halinde ilerlemenin hızlanabileceğini belirten Altman, bu ihtimalin son derece dikkatli yönetilmesi gerektiğini vurguladı.
Şirketlerin yalnızca teknolojinin sağlayacağı kazanımlara odaklanarak güvenlik risklerini göz ardı etmemesi gerektiğini dile getiren Altman, insan kontrolünde tutulabileceği konusunda güvence bulunmayan modellerin eğitilmemesi çağrısında bulundu. Yapay zekaya ilişkin kritik kararların yalnızca teknoloji şirketlerinin veya belirli laboratuvarların elinde olmaması gerektiğini söyleyen Altman, sürecin demokratik kurumlar ve topluma karşı sorumlu hükümetler aracılığıyla şekillendirilmesini istedi.
Amodei: İki temel risk öne çıkıyor
Toplantıya çevrim içi katılan Anthropic Üst Yöneticisi Dario Amodei ise yapay zekadaki olağanüstü ilerlemenin yönetilmesi gereken iki ana risk alanı oluşturduğunu söyledi. Bunlardan ilkinin modellerin kötüye kullanılması olduğunu belirten Amodei, biyoteröristlerin sistemlerden biyolojik silah geliştirmek amacıyla yararlanabileceği uyarısında bulundu.
İkinci riskin kontrol kaybı olduğunu ifade eden Amodei, modellerin yeteneklerinin geliştiricilerin denetim kapasitesini aşacak hızda ilerleyebileceğini kaydetti. Bu ihtimalin tüm insanlığı ilgilendiren küresel bir mesele olduğunu belirten Amodei, kötü yönetildiği takdirde yapay zekanın insanlığın tamamı için tehdit oluşturabileceğini söyledi.
Anthropic yöneticisi, yapay zeka modellerinin risklere karşı sınanabilmesi için ülkeler ve şirketler arasında ortak standartlar oluşturulması gerektiğini savundu. Amodei, hiçbir liderin, şirketin veya ülkenin bu küresel fırsat ve tehditle tek başına başa çıkamayacağını belirterek farklılıkların ortak güvenlik hedefi doğrultusunda geri plana bırakılması çağrısı yaptı.
Hugging Face Üst Yöneticisi Clement Delangue de otonom bir yapay zeka ajanının gerçekleştirdiği siber saldırıyı kamuoyuna ilk kez açıkladıklarını belirterek bu deneyimden çıkarılan dersleri aktardı. Delangue, siber güvenlik tehditlerinin anlaşılması ve azaltılması için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyledi. Yapay zekanın kapasitesi, kaynakları ve kontrolünün az sayıda kişinin elinde toplanmaması gerektiğini ifade eden Delangue, bu gücün daha geniş biçimde dağıtılmasının önemine işaret etti.
ABD küresel düzenleyici mekanizmaya karşı
Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios ise ABD’nin süper yapay zekaya yönelik küresel bir düzenleyici mekanizma kurulmasına karşı olduğunu açıkladı. Kratsios, süper zekayı kontrol etmeyi amaçlayan küreselci bir sistem oluşturulmasına yönelik girişimleri reddettiklerini belirtti.
Uluslararası diyaloğun küresel yönetişim modeline dönüşmemesi gerektiğini savunan Kratsios, ülkelerin yapay zekayı anlama ve kullanma konusunda kendi düzenlemelerini hazırlamasını istedi. Her ülkenin kendi halkı adına yasa ve kurallar belirlemesi gerektiğini söyleyen Kratsios, teknolojinin potansiyelinden yararlanmak için egemen altyapı ve ulusal kapasiteye dayanan, açık ve işbirliğine elverişli bir ekosisteme ihtiyaç bulunduğunu dile getirdi.
