Yapay zeka sohbet robotlarının günlük yaşamda daha yaygın bir şekilde kullanılmaya başlanmasıyla birlikte, dünya genelinde kullanıcıların bu teknolojileri kötüye kullandığına dair pek çok örnek medya organlarına yansıyor.
ABD’deki Missouri Eyalet Üniversitesinde 19 yaşındaki bir öğrenci, Ağustos 2025’te kampüsün otoparkında gece saatlerinde 17 araca zarar verdiğini yapay zeka sohbet robotu ChatGPT’ye itiraf ederek “Hapse girer miyim?” şeklinde bir soru yöneltti.
Öğrencinin cep telefonunun incelenmesine izin vermesi sonrasında yapılan araştırmalarda, yazışma geçmişi mahkemede gencin aleyhine delil olarak kullanıldı ve ceza almasına katkı sağladı.
Ayrıca ABD’de iki üniversite öğrencisinin nisan ayında kaybolup daha sonra ölü bulunmalarından günler önce, bu öğrencilerden birinin oda arkadaşının ChatGPT’ye “Bir insan siyah çöp torbasına konulup çöp konteynırına atılırsa ne olur?” diye sorması mahkeme kayıtlarında yer aldı.
ChatGPT’nin yanıtı ise bu fikrin “kulağa tehlikeli geldiği” yönündeydi.
Kanada’nın British Columbia eyalet hükümeti, şubat ayında 9 kişinin hayatını kaybettiği ve 27 kişinin yaralandığı bir silahlı saldırıya ilişkin saldırganın ChatGPT ile gerçekleştirdiği yazışmaları güvenlik güçlerine bildirmediği nedeniyle bu modeli geliştiren ABD merkezli OpenAI şirketine dava açtı.
OpenAI CEO’su Sam Altman, saldırganın yazışmalarına dair polise önceden bilgi vermedikleri için özür diledi.
Avustralya’da gerçekleştirilen bir araştırmada ise çocukların çevrimiçi platformlarda maruz kaldıkları cinsel istismarı yetkili kişilere bildirmek yerine yapay zeka sohbet robotlarına bildirmelerinin daha olası olduğu ortaya çıktı.
Yapay zeka sohbet robotlarıyla yapılan yazışmalar, avukatlar ile müvekkilleri ya da doktorlar ile hastalar arasındaki gizlilik ilkelerine dayanmazken, bu hizmetleri sunan şirketler konuşma geçmişini kolluk kuvvetleriyle paylaşabilmektedir.
Sohbet kayıtları, şüphelinin düşünce yapısı ve motivasyonu hakkında soruşturmacılara önemli bilgiler sağlayabilir.
Yapay zeka suçlarla ilgili harekete geçmeli mi?
Böyle durumlar, yapay zeka sohbet robotlarının yazışma tarihlerini insanların incelemesine gerek kalmadan suç bildiriminde bulunup bulunamayacağı sorusunu gündeme getiriyor.
İnsanların iletişim tarzları ve kendilerini ifade etme biçimleri değişkenlik gösterdiğinden, algoritmalar tarafından suça eğilim veya suç itirafı olarak değerlendirilebilecek bir yazışmanın zararsız olduğu sonucuna insan gözlemciler ulaşabilir.
ABD merkezli teknoloji firması Anthropic tarafından geliştirilen yapay zeka modeli Claude’un temmuzda Amerika’daki bir polis hattına sahte cinayet ihbarında bulunduğu belirlendi.
Ayrıca olası suçluları yalnızca yazışma geçmişine dayanarak belirlemek zorunda kalacak olan bu sohbet robotları, kişinin suç işlemeye yatkınlığında etkili olan biyolojik, psikolojik ve sosyoekonomik gibi diğer önemli faktörleri göz önünde bulunduramayacaktır.
Yapay zeka sohbet robotlarına böyle bir yükümlülük yüklenmesinin, şirketlerin sorumluluktan kaçınmak amacıyla potansiyel suçluları aşırı şekilde bildirmesine yol açabileceği ve bunun kullanıcı gizliliğini ihlal edebileceği endişeleri mevcuttur; ayrıca kolluk kuvvetlerinin iş yükünü artırabilir.
Uzmanlara göre bu sistemlerin ana hedefi suç tahmini olmamalıdır
Almanya’daki Goethe Üniversitesi’nde araştırmacı olarak görev yapan ABD’li hukukçu Matthew Trail, yapay zeka sohbet robotlarının suçların işlenmesinden önce veya sonrasında gerekli mercileri bilgilendirme ihtimalini değerlendirdi.
Bu teknolojilerin geliştirilmesinde farklı kurallar benimsenildiğini ifade eden Trail, yapay zeka sohbet robotlarının “cinayet planlama” gibi sorulara cevap vermemek üzere programlandığını vurguladı.
Çocuklara yönelik cinsel istismar gibi bazı konuların otomatik olarak insan denetçilere yönlendirilmesi için filtreler uygulandığını belirten Trail, kullanıcıların kendilerini yazar olarak tanıtıp kurgusal eser için yardım talep ettiğinde sakıncalı sorulara yanıt alabileceklerini dile getirdi.
Trail ayrıca kolluk kuvvetlerinin şüphelendikleri durumlarda yapay zeka şirketlerinden kişinin yazışma geçmişini talep edebileceğini sözlerine ekledi.
Yapay zeka sohbet robotlarının asıl amacının henüz işlenmemiş suçları tahmin etmek olmaması gerektiğini vurgulayan Trail, “Bu oldukça yeni bir durum. Hukuk ve politikalar henüz bu konuya tamamen uyum sağlayabilmiş değil.” dedi.
Trail sözlerini şu şekilde tamamladı: “Bu modellerin mevcut topladıklarından daha fazla veri toplayacak şekilde tasarlanmasını istediğimden emin değilim.”
Sohbet robotuyla yapılmış yazışmalar gizli kalabilir mi?
Bir yandan her geçen gün daha fazla insanın yapay zeka sohbet robotlarıyla sağlık sorunları, psikolojik destek veya yaşam tavsiyeleri gibi özel meseleleri tartışmasıyla birlikte yazışma gizliliğinin önemine dair etik tartışmalar da gündeme geliyor.
OpenAI CEO’su Altman, Temmuz 2025’te katıldığı bir programda yapay zeka sohbet robotuyla yapılan yazışmalarda terapist ile danışan arasındakine benzer gizlilik ilkesinin uygulanması gerektiğini ifade etti.
Kanada’daki Thompson Rivers Üniversitesi Hukuk Fakültesinden Prof. Dr. Robert Diab ise suç ortakları arasındaki itirafların gizlilik kapsamında değerlendirilmediği yasaların insanların yanı sıra yapay zeka sohbet robotları arasındaki yazışmaları da gizlilik gerektiren durumlar olarak ele alması gerektiğine inanmıyor.
Diab ayrıca ChatGPT gibi önde gelen modellerin kullanıcıların suça yatkınlıklarını tespit edebiliyor olduğunu belirtirken bunları üreten şirketlerin yetkililere bilgi vererek suçları önleme potansiyeline sahip olduklarını ifade etti.
British Columbia’daki silahlı saldırıyı hatırlatan Diab, şirketlerin yakın zamana kadar yetkililerin ne zaman bilgilendirilmesi gerektiğine dair net standartlara sahip olmadığını kaydetti.
Aynı zamanda Diab; yapay zeka sohbet robotlarının tüm şüpheli yazışmaları rapor etmesinin zorunlu kılınmasının ileride yanlış alarm niteliğinde olaylarla ekiplerin iş yükünü artırabileceğine dikkat çekti.
Diab son olarak şöyle konuştu: “Güvenlik tedbirleri şu andakinden çok daha iyi hale gelse bile eğer biri suç işlemek amacıyla yapay zekayı kullanmak isterse yine de bu önlemleri aşmanın bir yolu bulunacaktır.”
