Jack Clark'tan yapay zeka için acil kapatma düğmesi önerisi

Anthropic kurucusu Jack Clark, yapay zekanın kontrolden çıkma riskine karşı üçüncü taraflarca denetlenen zorunlu bir acil kapatma düğmesi getirilmesi gerektiğini belirtti.

Anthropic kurucusu Jack Clark, yapay zeka sistemlerinin kontrolden çıkma ihtimaline karşı üçüncü taraflarca denetlenen ve zorunlu hale getirilen acil kapatma düğmelerinin gelecekte bir standart olabileceğini belirtti.

Toplumun kurallar koyması çağrısı

Clark, şirketlerin halihazırda kendi bünyelerinde çeşitli kapatma mekanizmaları bulunduğunu hatırlatarak, bu düğmenin üçüncü bir tarafın kontrolünde olması gerektiğini vurguladı. BBC'ye konuşan Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu" dedi.

Başıboş bırakılmama uyarısı

Yapay zekanın tamamen başıboş bırakılmaması gerektiğini belirten Clark, sektörün mevcut ilerleyişini muazzam riskler alarak kumar oynamak olarak nitelendirdi ve gidişatın acilen değiştirilmesi gerektiğini söyledi.

İstifa eden araştırmacı tartışmaları alevlendirdi

Öte yandan OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak görev yapan Jacob Coxon'un istifası, sektördeki güvenlik tartışmalarını yeniden gündeme getirdi.