Anthropic, riskli hesapları engelledi. Biyolojik silah geliştirmeye çalışmışlar

Yapay zeka şirketi Anthropic tarafından, bu teknolojinin berbata kullanımının tespitine ve buna karşı tedbir alınmasına yönelik rapor yayımlandı.

Yapay zeka modellerinin en büyük risklerinden birinin “biyolojik berbata kullanım” olduğu vurgulanan raporda, yapay zekanın mevcut patojenlerin daha tehlikeli hale getirilmesi ya da yeni patojenlerin üretilmesine yardımcı olabilecek yetenek seviyesine ulaşabileceği telaşının uzun müddettir gündemde bulunduğuna işaret edildi.

Raporda şirkete ilişkin yapay zeka modellerini biyolojik silah geliştirilmesini destekleyebilecek formda kullanan bireylere ait örneklere yer verildi.

Bu örneklerden birinde desteklenmeyen bölgede çalışan bir araştırmacının, Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için uğraştığı tabir edildi, öteki bir örnekte de devlet dayanaklı araştırmacının toksinleri bilgisayar ortamında yine tasarladığı kaydedildi.

Bu olayların tespitinin akabinde kullanıcıların hesaplarının engellendiğine, gelecekte bu cins faaliyetlerin daha tesirli formda önlenmesi için adım atıldığına işaret edildi.

Bu örneklerdeki şahısların “kötü niyetli” olduklarının sav edilmediğinin ve sadece önlemli davranıldığının altı çizilen raporda, “Bu örnekleri paylaşarak yapay zeka kesiminde ortaya çıkan biyolojik riskler ve bunlara en tesirli biçimde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz.” tabiri kullanıldı.

Anthropic çalışanı Jacob Coxon’un, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” savunarak şirketinden istifa ettiğini duyurduğu paylaşımı, milyonlarca defa görüntülenerek geniş yankı uyandırmıştı.