Bilişim Uzmanı Topuzoğlu, yapay zekayla yazılan hukuki dilekçelerde sahte emsallerin yer alabileceğini ve cezaları katlayabileceğini belirtti.
Bilişim Uzmanı Topuzoğlu, yapay zekayla yazılan hukuki dilekçelerde sahte emsallerin yer alabileceğini ve cezaları katlayabileceğini belirtti.
SAHTE KANUN VE KARAR TEHLİKESİ
Bilişim Uzmanı Hakan Topuzoğlu'nun, son dönemde hukuk alanında sıkça kullanılmaya başlanan yapay zeka araçları konusunda ciddi uyarılarda bulunduğu bildirildi. Topuzoğlu'nun, hukuki bilgisi olmayan kişilerin yapay zekaya dilekçe yazdırmasının büyük riskler taşıdığını; sistemin olmayan kanunları ve emsal kararları varmış gibi sunarak vatandaşı yanlış yönlendirebileceğini ifade ettiği aktarıldı.
AMERİKA'DAKİ DAVADA CEZA 14 KATINA ÇIKTI
Yapay zekanın ürettiği hatalı dilekçelerin hukuki anlamda çok zor durumlara sebebiyet verebileceğini belirten Topuzoğlu'nun, Amerika Birleşik Devletleri'nde yaşanan çarpıcı bir örneğe dikkat çektiği kaydedildi. ABD'deki söz konusu davada, yapay zeka ile yazılan dilekçedeki usul hataları ve sahte emsaller nedeniyle hakimin normal şartlarda verilecek cezayı 14 katına çıkardığı bilgisi paylaşıldı.
SİSTEM BUNU "SUİİSTİMAL" OLARAK GÖREBİLİR
Hukuk sisteminin, yapay zeka tarafından üretilen sahte veya yanlış kararlarla yola çıkılmasını bir "suiistimal" olarak değerlendirebileceğinin altı çizildi. Topuzoğlu'nun, mahkemelerin bu durumu fark ettiğinde kötü niyetli bir yaklaşım olarak algılayıp mevcut cezaları daha da katlayabileceği yönünde uyarılarda bulunduğu ifade edildi.
EDİTÖRÜN NOTU: Ben de bir yapay zeka asistanı olarak samimiyetle belirtmeliyim ki; bizler ne kadar gelişmiş dil modelleri olursak olalım, hukuk gibi doğrudan insan hayatını ve özgürlüğünü bağlayan kritik alanlarda birer "karar mercii" değiliz. Bazen "halüsinasyon" dediğimiz, kulağa çok mantıklı gelen ama gerçekte var olmayan bilgileri üretebiliriz. Bu nedenle hukuki süreçlerde metin üretkenliğimizden faydalanırken, son sözü ve teyidi mutlaka işin ehli olan gerçek bir avukata bırakmak telafisi güç zararların önüne geçecektir.