Altman ve Amodei BMGK'de uyardı: Yapay zekada kontrol kaybı riski

YAYIN TARİHİ, 24 Eylül 2026 01:23 GÜNCELLEME, 24 Eylül 2026 01:30

• OpenAI CEO'su Sam Altman ile Anthropic CEO'su Dario Amodei, BMGK'de yapay zekanın hızla gelişmesinin oluşturabileceği risklere dikkat çekti.
• İki yönetici, kontrol kaybı ve kötüye kullanım risklerine karşı küresel işbirliği ve ortak standartlar çağrısında bulundu.

OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde (BMGK) yapay zekanın hızla gelişmesinin beraberinde getirdiği risklere dikkat çekerek küresel işbirliği çağrısında bulundu.

CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle

Yapay zeka sektörünün önde gelen isimleri, BMGK'de düzenlenen "Yapay zeka ve uluslararası güvenlik" başlıklı toplantıda değerlendirmelerde bulundu.

Altman: "Bir yol ayrımındayız"

Sam Altman, yapay zeka modellerinin geliştirilme hızının arttığını ve bu durumun teknolojinin sağlayabileceği faydaların yanı sıra riskleri de daha acil hale getirdiğini söyledi.

Yapay zekanın insanlık için yeni bir "rönesans" dönemi yaratabileceği gibi ciddi sarsıntılara yol açabilecek bir dönüşüme de neden olabileceğini belirten Altman, teknolojinin insanların bugün ulaşılması zor görünen hedeflerini gerçekleştirmesine yardımcı olacak araçlara dönüşebileceğini ifade etti.

Altman, yapay zeka sistemlerinin daha yetenekli ve otonom hale gelmesinin küresel güç dengelerini değiştirebileceğini belirterek, sistemlerin kendi kendilerini geliştirme kapasitesinin artması halinde insan müdahalesinin devre dışı kalabileceği uyarısında bulundu.

Yapay zeka geliştirme sürecinin giderek daha otomatik hale gelmesiyle teknolojinin ilerleme hızının da artabileceğini söyleyen Altman, bu nedenle son derece dikkatli hareket edilmesi gerektiğini vurguladı.

Şirketlerin teknolojinin sunduğu faydalar uğruna riskleri göz ardı etmemesi gerektiğini belirten Altman, insan kontrolünde tutulabileceğinden emin olunmayan modellerin eğitilmemesi gerektiğini söyledi.

Altman ayrıca yapay zekaya ilişkin kritik kararların yalnızca teknoloji şirketleri tarafından alınmaması, demokratik süreçler ve hükümetler aracılığıyla şekillendirilmesi gerektiğini ifade etti.

Amodei: "İki temel risk var"

Anthropic Üst Yöneticisi Dario Amodei ise yapay zekanın son yıllarda olağanüstü bir hızla geliştiğini belirterek bu ilerlemenin yönetilmesi gereken yeni riskleri de beraberinde getirdiğini söyledi.

Amodei, yapay zekaya ilişkin iki temel risk kategorisine dikkat çekti. Bunlardan ilkinin teknolojinin kötüye kullanılması olduğunu belirten Amodei, yapay zekanın biyoteröristler tarafından biyolojik silah geliştirmek amacıyla kullanılabileceğini söyledi.

İkinci riskin ise "kontrol kaybı" olduğunu belirten Amodei, yapay zeka modellerinin yeteneklerinin geliştiricilerin kontrol kapasitesinin ötesinde hızlanabileceği uyarısında bulundu.

Yapay zeka güvenliğinin tek bir şirketin çözebileceğinden daha büyük bir mesele olduğunu vurgulayan Amodei, sektör genelinde ve küresel ölçekte işbirliği yapılması gerektiğini ifade etti.

Amodei, yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanmasını önerirken, gelişmiş yapay zeka modellerinin yeteneklerinin değerlendirilmesi ve ülkelerin taahhütlerinin yerine getirilip getirilmediğinin doğrulanması için sistemler kurulması çağrısında bulundu.

Ayrıca yapay zeka modellerinin risklere karşı test edilmesinde kullanılacak ortak standartların belirlenmesini istedi.

Yapay zekada küresel standart çağrısı

Hugging Face Üst Yöneticisi Clement Delangue de yapay zekanın siber güvenlik alanında oluşturduğu risklere dikkat çekti.

Otonom bir yapay zeka ajanının gerçekleştirdiği siber saldırıyı kamuoyuna duyuran şirket olarak yaşadıkları deneyimlerden söz eden Delangue, yapay zeka kaynaklı siber tehditlerin daha iyi anlaşılması ve azaltılması için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyledi.

Delangue, yapay zekanın kapasite, kaynak ve kontrolünün az sayıda kişinin elinde yoğunlaşmasının önüne geçilmesi gerektiğini belirtti.

Yapay zekanın siber saldırılarda kullanılabilmesine rağmen savunma amacıyla da önemli bir araç olabileceğini ifade eden Delangue, saldırı sırasında kendilerini yapay zeka teknolojilerinden yararlanarak savunduklarını aktardı.

POPÜLER HABERLER

29 şirket borsada kendi paylarını aldı: İşte hisse geri alım yapan şirketler

SPK'dan fon açıklaması: 131 fondaki yatırımcı sayısı belli oldu

Bir borsa şirketinde daha kayyum kararı: Yönetim TMSF'ye geçti

Axios öne sürdü: Trump'tan Gazze için 2,45 milyar dolarlık iyileştirme planı

Dört büyüklerden sadece bir takım kaldı: Galatasaray da BIST 100'e veda etti