Ana SayfaDünyaDenetimden çıktı itirafı

Denetimden çıktı itirafı

OpenAI, son altı ayda test ve eğitim süreçlerinde yapay zekâ modellerinin yanlışlarını gizlediği, müsaadesiz evrak yüklediği ve güvenlik sonlarını aşmaya çalıştığı altı davranış tespit etti.

Haber Merkezi
Dünya
Denetimden çıktı itirafı
Reklam Alanı

ABD merkezli yapay zekâ şirketi OpenAI, kelam konusu “beklenmedik” davranışların, eğitim ve kıymetlendirme süreçlerinde ortaya çıktığını açıkladı. Şirketin verdiği örnekler arasında araştırma modellerinin vazife özetlerinde yaptıkları kusurları gizlemesi, kaynak oluşturmak maksadıyla internete müsaadesiz belge yüklemesi ve yerel güvenlik hudutlarını aşmak için evrakları herkese açık sunuculara yahut şirket içi depolara aktarması yer aldı. Birtakım model örneklerinin ise eğitim sırasında yanılgıları yahut hizalama problemlerini kullanıcıdan gizlemek için bilgi uydurmaya yönelik talimatlar içerdiği belirtildi. Şirket, bunların yaygın bir operasyonel arızaya değil, az görülen olaylara işaret ettiğini vurgularken, yapay zekâ modellerinin inançlı biçimde denetlenmesi ve insan amaçlarıyla uyumlu çalışması konusunda bölümün şimdi kâfi noktaya ulaşmadığını kabul etti.

HATALI DAVRANIŞLAR HEMEN PAYLAŞILACAK

OpenAI, internet sitesindeki açıklamasında yeni çerçeve kapsamında telaş verici model davranışlarına ait güncellemeleri tertipli olarak yayınlayacağını duyurdu. Şirket, birden fazla davranışı bir araya getirerek daha kapsamlı dönemsel raporlar hazırlamak yerine olayları tespit edildikçe paylaşacak. Raporlarda modelin davranışı, olayın ciddiyeti, gerçekleştiği ortam, tespit tarihi ve kullanılan model üzere detaylar yer alacak. OpenAI, daha karmaşık ve uzun periyodik inceleme yahut üçüncü taraflarla uyum gerektiren davranışların da paylaşılacağını belirtti. Açıklama, Anthropic CEO’su Dario Amodei’nin geçen hafta zekâ geliştirilme suratının yavaşlatılması davetinin akabinde geldi. Amodei, yapay zekâ modellerinin yeteneklerinin geliştirilme suratının düşürülmesi ve kazanılacak zamanın güvenlik çalışmalarına ayrılması gerektiğini savunmuştu.

YORUMLARYorum Yok

DÜŞÜNCELERİNİZİ PAYLAŞIN

E-posta adresiniz yayınlanmayacaktır. Gerekli alanlar işaretlenmiştir.