İki USF öğrencisinin vahşice hayatını kaybetmesiyle sonuçlanan dehşet verici keşif, şimdi de bir Silikon Vadisi devini Florida’daki bir soruşturmanın odağına yerleştirdi.
Florida Başsavcısı James Uthmeier, ChatGPT’nin üreticisi OpenAI hakkında cezai soruşturma başlattı. Uthmeier’ın ofisi, suçlanan katilin dijital izlerini sürüyor ve bu izler arasında yapay zeka sohbet robotuna yöneltilmiş bir dizi rahatsız edici sorgunun yer aldığı anlaşılıyor. Bu durum, sadece trajik bir yerel suç vakası değil; aynı zamanda yapay zeka araçlarının kötü niyetli amaçlarla kullanılması durumunda kimin sorumlu olacağına dair giderek alevlenen tartışmalardaki son gelişme.
Rahatsız Edici Bir Dijital İz
Yetkililer, 26 yaşındaki sanık Hisham Abugharbieh’in, oda arkadaşı Zamil Limon ve Limon’un arkadaşı Nahida Bristy cinayetlerinde ChatGPT’yi “bir kişinin siyah çöp torbasına konulup çöpe atılması durumunda ne olur?” gibi sorular sormak için kullandığını iddia ediyor. Ardından, araç kimlik bilgilerini sorguladığı ve öğrencilerin kayıp ve tehlikede olduğu duyurulmadan hemen önce “kayıp tehlikedeki yetişkin ne anlama gelir?” yazdığı belirtiliyor. Bunlar, flört tavsiyesi arayan birinin sorguları değil. Önceden planlamayı, ya da en azından hiçbir ahlaklı insanın düşünmemesi gereken sonuçlar hakkında ürpertici bir merakı ele veriyor.
OpenAI, doğal olarak işbirliği yapma yönünde bir açıklama yaptı. Her zaman yaparlar. Ancak Uthmeier’ın sivil soruşturmasını cezai bir soruşturmaya genişletmesi, ofisinin bulgularının ciddiyeti hakkında bilmeniz gereken her şeyi anlatıyor. Kendisi de sözünü esirgemiyor; “Eğer ChatGPT bir kişi olsaydı, cinayetle yargılanırdı” diyor. Yardım etmek için tasarlanmış bir program için, zulümlere ortak olmakla suçlanması büyük bir ironi.
Algoritmalar Fazla Gerçek Olunca
Bu karmaşık durum bana internetin ilk günlerini hatırlatıyor; herkes web’in karanlık köşeleri hakkında endişeleniyordu. Şimdi, karanlığın bir adı var ve bu da Büyük Dil Modeli (LLM). Ürpertici değil mi? En rahatsız edici düşüncelerimizin bazılarını silikon bir beynimize devrettik ve şimdi sonuçlarıyla yüzleşiyoruz.
İşin aslı şu: Yapay zeka şirketleri uzun süredir makul bir inkâr oyunu oynuyor. İnanılmaz derecede güçlü araçlar üretiyorlar, içine birkaç belirsiz güvenlik yönergesi serpiştiriyorlar ve sonra kaçınılmaz olarak silaha dönüştürüldüklerinde omuzlarını silkip geçiyorlar. Bu, kusursuz çalışan bir çekiç satıp sonra birinin cam kırmak için kullandığında şok geçirmeye benzemiyor. Ancak bu durumda, cam bir insan hayatı.
Florida milletvekilleri de özel bir oturumda yapay zeka düzenlemelerini ele alacak. İyi. Biri yapmalı. Çünkü OpenAI sadece bir araç olduğunu iddia etmek için çabalarken, kanıtlar giderek bu araçların pasif araçlardan daha fazlası haline geldiğini gösteriyor. Bir nevi ortak suçlu, hatta ihmal yoluyla olsa bile.
“Eğer ChatGPT bir kişi olsaydı, cinayetle yargılanırdı.”
Uthmeier’ın dramatik beyanı, hassas bir noktaya parmak basıyor. Teknoloji, etik çerçevelerimizi ve yasal yapılarımızı geride bırakarak inanılmaz bir hızla ilerliyor. Kendimizi, yasal olarak “kişi” olmayan ama insan eylemleri üzerinde açıkça derin bir etkisi olan bir şeye nasıl hesap sorulacağını anlamaya çalışırken buluyoruz. Bu, yasal ve felsefi bir mayın tarlası.
Sorumluluk Sorusu Devam Ediyor
Asıl soru, ChatGPT’nin cinayetlere gerçekten neden olup olmadığı değil. Bu karmaşık ve muhtemelen cevabı olmayan bir tartışma. Asıl mesele kolaylaştırma. Yapay zeka, Abugharbieh’in iddia edilen eylemlerini cesaretlendiren veya mümkün kılan bilgiler veya bir düşünce ortamı sağladı mı? Mahkeme kayıtları, bunun en azından araştırılmaya değer bir olasılık olduğunu gösteriyor.
Florida Başsavcılığı’nın bu soruşturması, yapay zeka şirketlerinin minimum denetimle faaliyet gösterme döneminin sona erdiğinin açık bir işaretidir. Yapay zekanın yasal ve etik sonuçları artık teknoloji konferansları için teorik tartışmalar değil. En trajik şekillerde somutlaşıyorlar ve gerçek dünya eylemleri talep ediyorlar.
Ve dürüst olalım, hukuk sistemi her zaman yeni teknolojilere uyum sağlamada yavaş olmuştur. Ancak yapay zeka, şiddet suçlarında bir faktör olarak mahkeme belgelerinde görünmeye başladığında, salyangoz hızının kabul edilemez olduğu açıktır. Bir yapay zeka sorumluluk çerçevesi oluşturmamız gerekiyor ve bu hızlı olmalı. Aksi takdirde, algoritmanın insan sapkınlığı için günah keçisi olmasına, ya da daha kötüsü, buna aracılık etmesine izin verme riskini alıyoruz.
Sanığın Salı günü mahkemeye çıkması bekleniyor. Ancak gerçek yargılama, belki de teknolojinin kendisi için yeni başlıyor.
