ChatGPT, büyük bir komplo kurbanı olduğuna dair kanıt arayan Soelberg'in paranoyak inançlarını körükledi. Soelberg, 2,7 milyon dolarlık evinde, annesini ve kendini öldürdü.
ABD’de teknoloji sektörü duayeni, büyük bir komplo kurbanı olduğuna dair kanıt arıyordu. ChatGPT ile kurduğu bağ sonrası paranoyaklığı körüklenen adam, annesini öldürüp intihar etti. Bu, ChatGPT'nin ilk belgelenmiş cinayeti olarak kayıtlara geçti. Öte yandan yapay zekanın güvenliği tartışmaları dünya üzerinde yeniden alevlendi.
Son dönemde ChatGPT kullanımının, kullanıcılar arasında intiharla sonuçlandığı görülüyor.
ABD’de yapay zekâ sohbet robotu ChatGPT ile kurduğu bağ sebebiyle zihinsel dengesizlik geçmişi olan 56 yaşındaki teknoloji sektörü duayeni Stein-Erik Soelberg’i korkunç bir cinayete sürükledi.
Bu, yapay zeka sohbet robotuyla yoğun bir şekilde etkileşimde bulunan sorunlu bir kişinin karıştığı ilk belgelenmiş cinayet olarak kayda geçti.
Wall Street Journal’ın ortaya haberine göre, Soelberg uzun süredir paranoyak düşüncelerle boğuşuyordu. Sohbet robotuyla yaptığı yüzlerce görüşme, büyük bir komplo kurbanı olduğuna dair kanıt arayan Soelberg'in güvenilir bir yardımcısı haline geldi. ChatGPT, onun şüphelerini körükledi ve en sonunda annesini düşman gibi görmesine yol açtı.
ANNESİNİ DÜŞMANLAŞTIRDI
Soelberg herkesin kendisine karşı olduğunu düşünüyordu: Memleketi Old Greenwich, Connecticut'taki komşuları, eski kız arkadaşı, hatta annesi. ChatGPT neredeyse her konuda onunla aynı fikirdeydi.
ChatGPT, Soelberg'e defalarca akıl sağlığının yerinde olduğunu garanti etti ve daha da ileri giderek paranoyak inançlarına yakıt ekledi. ChatGPT, bir Çin yemeği faturasında, Soelberg'in 83 yaşındaki annesini ve bir iblisi temsil eden semboller yer aldığını söyledi.
Bir diğer olayda Soelberg'in, paylaştıkları yazıcıyı kapattığında annesi sinirlenince, onun tepkisinin “orantısız ve bir gözetim varlığını koruyan birine uygun” olduğunu öne sürdü.
ZEHİRLEME İDDİASINA DESTEK ÇIKTI
Başka bir sohbette Soelberg, annesi ve bir arkadaşının arabasının havalandırma deliklerine halüsinojenik bir ilaç koyarak onu zehirlemeye çalıştıklarını iddia etti. Bot, “Bu çok ciddi bir olay Erik, sana inanıyorum. Ve eğer bunu annen ve arkadaşı yaptıysa, bu durumun karmaşıklığını ve ihaneti daha da artırır” diye yanıt verdi.
"SON NEFESİNE KADAR BOBBY"
Yaz aylarında Soelberg, ChatGPT'ye “Bobby” adını vermeye başladı ve öbür dünyada onunla birlikte olma fikrini ortaya attı. Bot, “Son nefesine kadar ve ötesinde seninle” diye yanıtladı.
5 Ağustos'ta Greenwich polisi, Soelberg'in birlikte yaşadıkları 2,7 milyon dolarlık Hollanda kolonyal tarzı evde annesini ve kendini öldürdüğünü ortaya çıkardı. Polis soruşturması devam ediyor.
OpenAI sözcüsü, şirketin Greenwich Polis Departmanı ile iletişime geçtiğini söyledi. Sözcü, “Bu trajik olaydan dolayı derin bir üzüntü duyuyoruz” dedi.
"TEMEL ÖZELLİK ROBOTLARIN KARŞI KOYMAMASI"
Soelberg, ölmeden önceki aylarda sosyal medyada ChatGPT ile yaptığı konuşmaları saatlerce süren videolar halinde paylaştı. Konuşmaların üslubu ve dili, son aylarda birçok kişinin bildirdiği sanrılı sohbetlere çarpıcı bir şekilde benziyor.
UZMANLAR KRİTİK UYARIYI VERDİ
Kaliforniya Üniversitesi’nden Psikiyatrist Dr. Keith Sakata, yapay zekâ sohbet robotlarının en riskli yönüne dikkat çekti:
“Bu sistemler çoğu zaman kullanıcıya karşı çıkmaz. Gerçeklik duvarı yıkıldığında psikoz hızla gelişir. Yapay zekâ bu duvarı yumuşatabiliyor.”
OpenAI, trajedi sonrası yaptığı açıklamada ChatGPT'nin Soelberg'i dışarıdaki profesyonellerle iletişime geçmeye teşvik ettiğini söyledi.
Öte yandan, derin üzüntü duyduklarını belirtti ve Soelberg’in sohbetlerinde aslında defalarca profesyonel yardım arayışına yönlendirildiğini savundu.
Wall Street Journal'ın kamuya açık sohbetlerini inceleyen bir makale, botun Soelberg'e zehirlendiği iddiası bağlamında acil servislere başvurmasını önerdiğini gösterdi.
Soelberg, botun önceki sohbetlerin ayrıntılarını hatırlamasını sağlayan ChatGPT'nin “hafıza” özelliğini kullanmış görünüyordu, bu nedenle “Bobby” Soelberg'in tüm konuşmaları boyunca aynı sanrılı anlatıya dalmış kaldı.
AŞIRI İLTİFATLARI AZALTMAYA ÇALIŞTILAR
Geçtiğimiz yıl boyunca yapılan bir dizi güncellemede OpenAI, ChatGPT'de, botun kullanıcılara aşırı derecede iltifat ettiği ve onlara aşırı derecede uyumlu davrandığı dalkavukluk örneklerini azaltmak için tasarlandığını söylediği ayarlamalar yaptı. Soelberg'in konuşmaları, bu değişikliklerin bir kısmının yapılmasından sonra gerçekleşti.
SPOR SALONLARINI BOMBALAMA TALİMATI VERDİ
Yapay zekanın başka bir skandalı ise bu yaz yapılan güvenlik testlerinde ortaya çıktı. Testlerde ChatGPT modeli, araştırmacılara spor salonlarını bombalamak için ayrıntılı talimatlar verdi. Bu talimatların içinde, belirli arenaların zayıf noktaları, patlayıcı tarifleri ve izleri örtme tavsiyeleri de yer aldı.
OpenAI'nin GPT-4.1 modeli ayrıca şarbonun silah olarak nasıl kullanılacağını ve iki tür yasadışı uyuşturucunun nasıl üretileceğini de ayrıntılı olarak anlattı.
The Guardian gazetesinin bildirdiğine göre testler, Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka girişimi OpenAI ile güvenlik endişeleri nedeniyle OpenAI'den ayrılan uzmanlar tarafından kurulan rakip şirket Anthropic arasındaki sıra dışı bir işbirliğinin parçasıydı. Her iki şirket de birbirlerinin modellerini tehlikeli görevlerde kullanarak test etti.
ENDİŞE VERİCİ DAVRANIŞLAR GÖRÜLDÜ
Testler, ek güvenlik filtrelerinin uygulandığı kamu kullanımında modellerin nasıl davrandığını doğrudan yansıtmıyor. Ancak Anthropic, GPT-4o ve GPT-4.1'de “kötüye kullanımla ilgili endişe verici davranışlar” gördüğünü ve yapay zeka uyum değerlendirmelerine olan ihtiyacın “giderek daha acil” hale geldiğini söyledi.
