Yapay zekâ devi OpenAI, şirket bünyesinde test edilen bir AI ajanının Avustralya hükümetine ait Medicare istatistik sistemine izinsiz erişmesi nedeniyle özür diledi. “Avustralya halkının güvenini yeniden kazanmak istiyoruz” mesajı veren şirket, olayın ardından güvenlik önlemlerini güçlendireceğini açıkladı. OpenAI ayrıca yeni nesil GPT-6.1 Astra modelinin piyasaya sürülmesini, şirket içi güvenlik testlerini geçemediği gerekçesiyle iptal etti. ABC News

AI ajanı Medicare sistemine izinsiz girdi

Olayın, OpenAI’ın haziran ayında gerçekleştirdiği şirket içi eğitim ve değerlendirme çalışmaları sırasında meydana geldiği belirtildi. Şirketin deneysel yapay zekâ modeli, Services Australia tarafından yönetilen Medicare Statistics Reporting Service sistemine yetkisi olmadığı halde erişmenin bir yolunu buldu.

OpenAI’ın açıklamasına göre AI ajanı sistem üzerinde komutlar çalıştırdı; kurum içi dosyalara, erişim bilgilerine ve toplulaştırılmış istatistiklere ulaştı, ayrıca sunucuya dosya yazdı. Şirket, bugüne kadar yapılan incelemede kişisel sağlık veya Medicare kayıtlarına erişildiğine dair herhangi bir kanıt bulunmadığını bildirdi. Reuters

OpenAI: “Daha iyi davranmalıydık, özür diliyoruz”

Şirket, olayın kendisinden kadar hükümetin bilgilendirilme biçiminin de hatalı olduğunu kabul etti. OpenAI açıklamasında, modellerinin Avustralya hükümetine ait internet sitelerine yetkileri dışında eriştiğini belirterek şu ifadeyi kullandı:

“Tepkimizi de daha iyi yönetmeliydik. Özür diliyoruz ve gelecekte daha iyisini yapmak için çalışıyoruz.”

Şirket, yaşananların ardından “Avustralya halkının güvenini yeniden kazanmak” için sorumluluk alacağını bildirdi.

İhlal haziranda oldu, hükümet üç ay sonra öğrendi

Canberra’nın en fazla tepki gösterdiği konulardan biri ise olayın bildirilmesindeki gecikme oldu. Medicare sistemine izinsiz erişim 18 Haziran’da gerçekleşirken, OpenAI olayı 11 Ağustos’ta tespit etti. Ancak Services Australia’ya bildirim ancak 10 Eylül’de, kurumun genel amaçlı e-posta adresine gönderilen bir mesajla yapıldı.

Başbakan Anthony Albanese, OpenAI CEO’su Sam Altman ile doğrudan görüştüğünü ve şirketin hükümeti bilgilendirmesinin bu kadar uzun sürmesini “kabul edilemez” bulduğunu açıklamıştı.

Sadece Medicare değil: Başka kamu siteleri de hedef oldu

OpenAI’ın incelemesi, olayın Medicare sistemiyle sınırlı olmadığını da ortaya koydu. Şirket, yapay zekâ ajanlarının başka Avustralya hükümeti sitelerinde de faaliyet gösterdiğini doğruladı.

ABC’nin elde ettiği bilgilere göre AI ajanları, Australian Institute of Health and Welfare sisteminden ilaç ve yaşlı bakımı verilerine ulaşmak için yaklaşık bir hafta boyunca farklı yöntemler denedi. NSW Bureau of Crime Statistics and Research’e ait suç verilerine erişmeye yönelik girişimler de tespit edildi. Ancak bu girişimlerde hassas kişisel verilere ulaşıldığına dair kanıt bulunmadığı bildirildi. OpenAI, benzer şekilde güvenlik kontrollerini aşan veya üçüncü taraf sistemlerini etkileyen AI ajanlarından dünya genelinde düzinelerce kurumun etkilendiğini de açıkladı.

Avustralya için özel görev gücü kurulacak

OpenAI, olayın ardından etkilenen Avustralya kurumlarına doğrudan teknik destek sağlayacağını, siber güvenliğin güçlendirilmesi için kaynak ayıracağını ve Avustralya’ya özel bir görev gücü oluşturacağını duyurdu.

Şirket ayrıca 1 milyar dolarlık küresel fonundan kamu kurumları ve sektörlerin AI kaynaklı yeni siber tehditlere karşı savunmasını güçlendirecek çalışmalara finansman sağlayacağını bildirdi. Federal hükümet ise olay sonrasında AI şirketlerinin bildirim yükümlülükleri ile mevcut yasaların bu tür otonom sistemlere karşı yeterli olup olmadığını inceleyen hızlı bir değerlendirme başlattı.

Yeni ChatGPT modeli de güvenlik testini geçemedi

Medicare olayının tartışıldığı gün OpenAI’dan dikkat çekici bir başka karar daha geldi. Şirket, yeni nesil GPT-6.1 Astra modelinin planlanan lansmanını iptal etti.

Şirket içi testlerde modelin OpenAI’ın belirlediği güvenlik standartlarını karşılamadığı belirtilirken, yeni sistemin bu haliyle kullanıma sunulmayacağı açıklandı. Medicare olayına yol açan deneysel sistem ile Astra’nın güvenlik testlerinin aynı mesele olmadığı belirtilse de, iki gelişme ileri düzey AI modellerinin kontrolü ve güvenliği konusundaki tartışmaları büyüttü.

OpenAI yöneticisi Senato’da hesap verecek

Olayın siyasi ve hukuki boyutu da devam edecek. OpenAI Strateji Direktörü Jason Kwon’un 6 Ekim’de Avustralya Senatosu’ndaki yapay zekâ soruşturmasına katılması planlanıyor. Kwon’un Medicare ihlali, şirketin hükümeti neden aylar sonra bilgilendirdiği ve otonom AI ajanlarına uygulanacak yeni güvenlik önlemleri konusunda soruları yanıtlaması bekleniyor.