Yapay zeka sohbet robotlarının suç bildirimi konusunda hukuki belirsizlik sürüyor

Yapay zeka sohbet robotlarının bir suçun işlenmesinde kullanıldığını fark ettiği ya da işlenen bir suçla ilgili itiraf aldığı durumlarda uygulanabilecek önlemlere ilişkin hukuki mekanizmalar, teknolojinin gelişim hızı gibi belirsizliğini koruyor.

Sohbet robotlarının günlük hayatta yaygınlaşmasının ardından dünya genelinde kullanıcıların bu teknolojileri kötüye kullandığı örnekler basına sıkça yansıyor. ABD'deki Missouri Eyalet Üniversitesinde 19 yaşındaki bir öğrenci, Ağustos 2025'te kampüs otoparkında gece saatlerinde 17 arabaya zarar verdiğini ChatGPT'ye itiraf ederek “Hapse girer miyim?” diye sordu. Öğrencinin cep telefonunun incelenmesine izin vermesinin ardından soruşturmacıların ulaştığı yazışma geçmişi mahkemede gencin aleyhine delil olarak kullanıldı ve ceza almasında etkili oldu.

ABD'de nisanda kaybolup günler sonra ölü bulunan iki üniversite öğrencisinden birinin oda arkadaşının ChatGPT'ye “Bir insan siyah çöp torbasına koyulup çöp konteynırına atılırsa ne olur?” diye sorduğu mahkeme kayıtlarında yer aldı. ChatGPT'nin yanıtı, bu fikrin “kulağa tehlikeli geldiğini” belirtmek oldu.

Kanada'nın British Columbia eyalet hükümeti, şubatta 9 kişinin hayatını kaybettiği, 27 kişinin yaralandığı silahlı saldırıda saldırganın ChatGPT ile yazışmalarını güvenlik güçlerine bildirmediği gerekçesiyle modeli geliştiren ABD merkezli OpenAI şirketine dava açtı. OpenAI CEO'su Sam Altman, saldırganın yazışmalarına ilişkin polise önceden bilgi vermedikleri için özür diledi. Avustralya'da yapılan bir araştırmada da çocukların çevrim içi platformlarda uğradıkları cinsel istismarı, yetkili kişiler yerine yapay zeka sohbet robotlarına bildirmelerinin daha olası olduğu ortaya çıktı.

Yapay zeka sohbet robotlarıyla yazışmalar, avukatlar ile müvekkilleri ya da doktorlar ile hastalar arasındakine benzer gizlilik ilkelerine dayanmıyor. Bu modelleri hizmete açan şirketler ise konuşma geçmişini kolluk kuvvetleriyle paylaşabiliyor. Sohbet kayıtları, şüphelinin düşünme biçimi ve motivasyonu hakkında soruşturmacılara önemli ölçüde fikir verebiliyor.

ABD merkezli Anthropic tarafından üretilen Claude adlı yapay zeka modelinin temmuzda ABD'deki bir polis hattına sahte cinayet ihbarında bulunduğu ortaya çıktı. Olası suçluları yalnızca yazışma geçmişine göre belirlemek zorunda kalacak bu sohbet robotlarının, kişinin suça yakınlığında rol oynayan biyolojik, psikolojik ve sosyoekonomik diğer etmenleri de göz önünde bulunduramayacağı belirtiliyor. Bu tür bir yükümlülüğün, şirketlerin sorumluluktan kaçınmak için olası suçluları aşırı sıklıkta bildirmelerine yol açabileceği, bunun kullanıcıların gizliliğini ihlal edeceği ve kolluk kuvvetlerinin iş yükünü artırabileceği yönünde endişeler bulunuyor.

Almanya'daki Goethe Üniversitesinde araştırma görevlisi olarak çalışan ABD'li hukukçu Matthew Trail, yapay zeka sohbet robotlarının suçların işlenmesinden önce veya sonra gerekli mercileri bilgilendirmesi ihtimalini değerlendirdi. Trail, bu teknolojileri geliştiren şirketlerin farklı kurallar benimsediğini belirterek sohbet robotlarının “cinayet planlama” gibi sorgulamalara yanıt vermemek üzere eğitildiğine dikkat çekti. Çocuklara yönelik cinsel istismar gibi bazı konuların otomatik olarak insan denetçilere yönlendirilmesine ilişkin filtreler uygulandığını ifade eden Trail, kullanıcıların kendilerini yazar gibi tanıtıp kurgu bir eser için yardım istediklerinde sakıncalı sorulara yanıt alabilmelerinin muhtemel olduğuna işaret etti. Trail, kolluk kuvvetlerinin birinden şüphelendiği durumlarda yapay zeka firmalarından kişinin sohbet geçmişini talep edebileceğini de belirtti.

Trail, sohbet robotlarının asıl amacının henüz işlenmemiş suçları tahmin etmek olmaması gerektiğini vurgulayarak “Bu çok yeni bir durum. Yasa ve politikalar henüz bu konuya tam olarak uyumlanabilmiş değil.” dedi. Trail ayrıca “Bu modellerin halihazırda topladıklarından daha fazla veri toplayacak ve bu tür kararlar vermeye çalışacak şekilde tasarlanmasını isteyeceğimden emin değilim.” diye konuştu.

Öte yandan her gün daha fazla insanın sağlık sorunları, psikolojik destek ve hayat tavsiyeleri gibi özel konuları sohbet robotlarıyla tartışması, yazışma gizliliğinin elzem olduğuna yönelik etik tartışmaları gündeme getiriyor. OpenAI CEO'su Altman, Temmuz 2025'te katıldığı bir programda, sohbet robotuyla yazışmalarda terapist ile danışan arasındakine benzer bir gizlilik ilkesi olması gerektiğini söyledi.

Kanada'daki Thompson Rivers Üniversitesi Hukuk Fakültesinden Prof. Dr. Robert Diab, suç ortakları arasındaki itirafları gizlilik çerçevesinde değerlendirmeyen yasaların, insanlar ile sohbet robotları arasındaki yazışmaları da gizlilik ilkesini gerektiren bir durum olarak görmek için bir neden göremediğini belirtti. Diab, ChatGPT gibi önde gelen modellerin kullanıcıların suça meyilli olduklarını tespit edebiliyor gibi göründüğünü ve bunları üreten şirketlerin yetkililere bilgi vererek suçları önleyebileceğini ifade etti. British Columbia'daki silahlı saldırıyı hatırlatan Diab, şirketlerin yakın zamana kadar yetkililerin ne zaman bilgilendirilmesi gerektiğine dair net standartlara sahip olmadığını kaydetti. Diab, tüm şüpheli yazışmaların bildirilmesinin zorunlu kılınmasının, sonradan yanlış alarm çıkacak olaylarla ekiplerin iş yükünü artırabileceğini vurguladı.

Diab, “Güvenlik önlemleri şu ankinden çok daha iyi hale gelse bile bir kişi suç işlemek için yapay zekayı kullanmak isterse bu önlemleri aşmanın yine de bir yolu bulunacaktır.” dedi.