Yapay Zeka ile 'Hayalet Tanık' Üreten Avukata ŞOK Ceza: 5 Bin Dolar!
New Mexico Yüksek Mahkemesi, bir cinayet davasında yapay zeka destekli ChatGPT'yi kullanarak sahte tanık ifadeleri üreten avukat Stephen Aarons'a 5 bin dolar para cezası verdi. Bu karar, hukuk dünyasında yapay zeka kullanımına yönelik ciddi uyarıları beraberinde getirdi.
New Mexico Yüksek Mahkemesi, teknolojinin hukuk sistemindeki riskli yüzünü bir kez daha gözler önüne seren bir karara imza attı. Cinayet davası temyiz dosyasında, avukat Stephen Aarons'ın yapay zeka (AI) teknolojisini kullanarak ürettiği sahte tanık ifadeleri ve gerçek dışı polis raporlarına rastlanması üzerine mahkeme harekete geçti. Bu gelişme üzerine Aarons hakkında yaptırım uygulanmasına karar verildi.
Yapay Zeka 'Halüsinasyonları' Mahkemede Yakalandı
Mahkeme, avukat Aarons'ın sunduğu belgelerin doğruluğunu teyit etmediği gerekçesiyle kendisine 5 bin dolarlık bir para cezası uyguladı. İncelemeler sonucunda, dava dosyasında yer alan tanık ifadelerinin tamamen uydurma olduğu ve hatta saldırganın giyim tarzı ve dış görünüşü hakkında dahi yanlış bilgiler içerdiği tespit edildi. Avukat Aarons, mahkeme süresince yaygın olarak kullanılan ChatGPT'den aldığı özetin hatasız olacağını düşündüğünü ve bu bilgileri doğrulamadan kullandığını itiraf etti.
Mahkeme kayıtlarına göre, Aarons'ın “kurşun geçirmez” bir özet elde etme beklentisiyle yapay zekaya başvurduğu, ancak AI'ın aslında tamamen hayali veriler ürettiği anlaşıldı. Bu durum, hukuk profesyonellerinin yapay zeka araçlarını kullanırken sahip olması gereken temel yasal sorumlulukları ve etik ilkeleri göz ardı etmesinin ne denli ciddi sonuçlar doğurabileceğini bir kez daha ortaya koydu. Mahkeme, avukatın bu süreçte temel yasal sorumluluklarını ihmal ettiğini vurguladı.
Yargıçtan Sert Uyarı: 'Dünyadan Haberdar mısınız?'
Ağustos ayında gerçekleştirilen duruşmada Yargıç C. Shannon Bacon, avukat Aarons'ın yapay zeka kullanımının getirdiği riskler konusunda nasıl bu kadar bilgisiz olabildiğini sorguladı. Yargıç Bacon, avukata dünyadaki gelişmeleri takip edip etmediğini sorarak, yapay zeka tarafından üretilen yanlış bilgilerin (halüsinasyonların) artık günlük haberlerde sıkça yer aldığını hatırlattı. Bu sert çıkış, teknolojiye karşı duyulan güvensizliğin somut bir örneğini teşkil ederken, hukuk camiasında yapay zeka araçlarının kullanımına yönelik denetimlerin artması gerektiği mesajını verdi.
Avukat Stephen Aarons, yaşananların ardından Reuters'a yaptığı açıklamada duyduğu pişmanlığı dile getirdi. Disiplin kurulunun bu olayı bir dürüst hata olarak değerlendirmesini umduğunu belirten Aarons, yapay zeka tarafından sunulan bilgileri doğruluğunu teyit etmeden mahkemeye sunmanın sonuçlarıyla yüzleşmek zorunda kaldı. Bu vaka, yapay zeka destekli araçların hukuk sistemindeki yerini ve güvenilirliğini bir kez daha tartışmaya açtı.
Hukuk Dünyası Yapay Zeka Sorumluluğunu Tartışıyor
Yapay zeka teknolojilerinin hukuk alanındaki kullanımı giderek yaygınlaşırken, mahkemelerin bu araçlarla üretilen hatalı veya uydurma alıntılarla karşılaşma sıklığı da artıyor. Geçtiğimiz yıl, iki büyük hukuk firması, sundukları dosyalarda yapay zeka tarafından oluşturulan yanlış ve yanıltıcı yasal referanslar nedeniyle yargıç tarafından sert bir şekilde eleştirilmişti. Benzer bir şekilde, Mike Lindell'in avukatları da AI kaynaklı hatalı alıntılar ve sahte referanslar sundukları gerekçesiyle para cezasına çarptırılmıştı.
Bu tür vakalar, yapay zeka teknolojisinin hukuki belgelerde kullanımı konusunda ciddi güvenlik endişelerini beraberinde getiriyor. Hukuk profesyonelleri, yapay zeka tarafından üretilen her türlü içeriğin doğruluğunu titizlikle teyit etmenin artık avukatların zorunlu bir sorumluluğu haline geldiğini vurguluyor. Mahkemeler, avukatların teknolojik araçlara olan güvenlerinin, profesyonel görev ve sorumluluklarını hiçbir zaman gölgelememesi gerektiği konusunda uyarılarını sürdürüyor. Yapay zeka halüsinasyonlarının, özellikle kanun ve adalet gibi hassas alanlarda yaratabileceği yıkıcı etkiler, avukatların teknolojiye olan bağımlılıklarını yeniden gözden geçirmelerine neden oluyor.