BÜYÜK DİL MODELLERİNDE “HALÜSİNASYON” PROBLEMİ
VE AVUKATIN MESLEKİ ÖZEN YÜKÜMLÜLÜĞÜ
Teknolojinin ivme kazanarak ilerlediği 21. yüzyılda, dijital dönüşümün etkilemediği bir mesleki alan kalmamıştır. Geleneksel yapısını uzun yıllar koruyan hukuk sektörü de bu dönüşümün dışında kalmamış; özellikle veri madenciliği, içtihat taraması ve dilekçe taslağı oluşturma süreçlerinde yapay zeka entegrasyonu hız kazanmıştır. Ancak bu hızlı adaptasyon süreci, beraberinde daha önce karşılaşılmamış hukuki ve etik tartışmaları da getirmiştir. Yapay zeka araçlarının hukuk pratiğine dahil olması bir yandan zaman ve emek verimliliği sağlarken, diğer yandan bu araçların ürettiği hatalı veya kurgusal verilerin mahkemeler önüne sunulması riski, avukatın mesleki özen yükümlülüğünü yeniden tartışmaya açmıştır. İşbu makalede, Büyük Dil Modellerinin teknik çalışma prensiplerinden doğan “halüsinasyon” riski incelemeye alınacak; uluslararası ve ulusal yargı pratiğindeki somut olaylar ışığında avukatın hukuki, cezai ve disiplin sorumluluğu analiz edilecektir.
1-) BÜYÜK DİL MODELİ (LLM – LARGE LANGUAGE MODEL) NEDİR?
Büyük Dil Modeli (LLM – Large Language Model), devasa miktardaki yazılı metin verileriyle eğitilmiş, doğal dil işleme tekniklerini kullanarak insan dilini anlama, bağlama uygun metin üretme, özetleme yapma ve kompleks sorulara mantıksal silsile içinde yanıt verme yeteneğine sahip gelişmiş bir yapay zeka mimarisidir.
Günümüzde kullandığımız ChatGPT, Gemini ve Claude gibi yapay zeka sistemlerinin temelini işte tam da bu Büyük Dil Modelleri oluşturmaktadır. Ancak bu sistemlerin hukuk pratiğinde doğru konumlandırılabilmesi için teknik çalışma prensiplerinin eksiksiz anlaşılması gerekmektedir:
İstatistiksel Tahmin Motoru Niteliği: Toplumdaki genel kanının aksine Büyük Dil Modelleri; doğrulanmış verilerin saklandığı birer ilişkisel veri tabanı, mevzuat bankası yahut içtihat arama motoru değildir. Büyük Dil Modelleri, kendisine sunulan devasa veri setlerindeki dil kalıplarını ve sözcük ilişkilerini matematiğe dökerek, bir kelimeden sonra gelmesi istatistiksel olarak en muhtemel diğer kelimeyi tahmin eden bir dizilim mekanizmasıyla çalışır.
Metin Üretiminde Bağlamsal Akıcılık: Doğal dil işleme yeteneği sayesinde sistem, ürettiği cümlenin mantıksal akışını ve dil bilgisini kusursuz bir şekilde kurar. Ancak bu akıcılık, sunulan bilginin maddi gerçeklikle örtüştüğünün bir garantisi değildir. Sistem, “doğru bilgi sunmayı” değil, “anlamsal olarak en ikna edici ve akıcı metni oluşturmayı” hedefler. Hukuk pratiğinde bu ayrımın göz ardı edilmesi, avukatların adli süreçlerde telafisi güç hatalarla karşılaşmasının temel nedenini oluşturmaktadır.
2-) YAPAY ZEKA SİSTEMLERİNDE “HALÜSİNASYON” SORUNU VE HUKUKİ BOYUTU
Gelişen teknoloji ile birlikte avukatlık ofislerinde yer bulmaya başlayan Büyük Dil Modellerinin olasılık temelli çalışma prensibinin doğal ve kaçınılmaz bir sonucu olarak ortaya çıkan en tehlikeli olgu “halüsinasyon” sorunudur.
Hukuk teknolojilerinde halüsinasyon; yapay zeka modelinin somut olayda hukuken geçerli veya mevcut olmayan dava dosyalarını, içtihatları, mevzuat maddelerini ve hatta akademik alıntıları sanki gerçekmişçesine kurgulayarak, künye ve içerik uydurarak sunması durumudur. Sistem, kullanıcının talebini tatmin etmek adına boşlukları istatistiksel olarak mantıklı görünen ancak tamamen hayal ürünü verilerle doldurmaktadır.
Mevzu bahis halüsinasyon durumu, yalnızca yazılımsal bir aksaklık veya teknik bir hata olarak değerlendirilemez. Bu kurgusal verilerin denetimden geçirilmeden adli merciler (mahkemeler, savcılıklar, icra daireleri) önüne servis edilmesi halinde mesele boyut değiştirerek son derece ağır hukuki ve cezai aksaklık veya teknik bir bug olarak değerlendirilemez. Bu kurgusal verilerin denetimden geçirilmeden adli merciler önüne servis edilmesi halinde mesele boyut değiştirerek son derece ağır hukuki, cezai ve disiplin sorumluluklarını beraberinde getirmektedir.
2.1-) Uluslararası Hukuktaki Emsal Örnek: Mata v. Avianca Davası
Yapay zeka halüsinasyonunun, yargı pratiğinde yarattığı tahribatın dünyadaki ilk ve en yankı uyandıran emsal örneği, ABD New York Güney Bölge Mahkemesi’nde görülen “Mata v. Avianca” davasında yaşanmıştır.
30 yıllık mesleki deneyime sahip avukat Steven Schwartz, müvekkilinin havayolu şirketine karşı açtığı tazminat davasında emsal karar araştırması yaparken ChatGPT isimli yapay zeka uygulamasından faydalanmıştır. Sistem, avukata dava konusuyla birebir örtüşen emsal kararlar sunmuştur. Avukat, yapay zekaya “Bu kararlar gerçek mi?” diye sormuş, sistemin “Evet, Westlaw ve LexisNexis veritabanlarında mevcuttur” yanıtı üzerine kararları doğrulamadan dilekçesine ekleyerek mahkemeye sunmuştur.
Mahkemenin Tespiti ve Yaptırım: Yargıç P. Kevin Castel ve karşı taraf vekillerinin yaptığı araştırmada; dilekçede zikredilen Varghese v. China Southern Airlines gibi kararların, esas/karar numaralarının, yargıç isimlerinin ve içtihat metinlerinin tamamen ChatGPT tarafından uydurulduğu (halüsinasyon olduğu) tespit edilmiştir. Avukat Schwartz, teknolojiyi daha önce hiç kullanmadığını, kötü niyeti olmadığını belirterek mahkemenin merhametine sığınmıştır.
Nitekim Amerikan Barolar Birliği, Model Etik Kuralları çerçevesinde avukatın yetkin temsil ve teknolojik araçları denetleme yükümlülüğünü ihlal ettiğine karar vermiştir. Avukata 5.000 Dolar para cezası verilmiş, durum baroya bildirilmiş ve uydurma kararlardan etkilenen tüm yargıçlara durum resmi yazıyla ihtar edilmiştir.
2.2-) Türk Yargı Pratiğindeki Somut Yansıma: Ankara Kızılcahamam Vakası
Halüsinasyon probleminin Türk hukukundaki en taze ve dikkat çekici somut örneği, Ankara’nın Kızılcahamam ilçesindeki bir asliye hukuk mahkemesi dosyasında meydana gelmiştir.
Dava dosyasında kıdemli bir avukat, savunma dilekçesini emsal kararlarla desteklemek amacıyla yapay zeka modeline başvurmuştur. Yapay zeka uygulaması, avukata hukuki argümanlarına uygun Yargıtay kararları metinleri sunmuştur. Ancak sistem, içerik olarak hukuka uygun görünen bu kararların daire numaralarını, esas/karar yıllarını ve künyelerini tamamen kurgusal (uydurma) şekilde üretmiştir.
Adli Tespiti ve Başlatılan Soruşturmalar: Karşı taraf vekilinin dilekçedeki içtihat künyelerine itiraz etmesi ve mahkeme hakimi tarafından UYAP ile Yargıtay Bilgi Bankası üzerinden yapılan detaylı inceleme neticesinde; dilekçede yer alan kararların sistemsel ve hukuki karşılığının bulunmadığı tespit edilmiştir.
Soruşturma Süreci: Kızılcahamam Mahkemesi, uydurma içtihatlarla yargı mercilerini yanıltma teşebbüsü karşısında aynı gün ilgili avukat hakkında hem Ankara Cumhuriyet Başsavcılığı’na (görevi kötüye kullanma / adil yargılanmayı etkilemeye teşebbüs yönünden) hem de Ankara Barosu Başkanlığı’na (disiplin soruşturması açılması talebiyle) bildirimde bulunmuştur.
Bu vaka; yapay zeka çıktılarının; denetimden geçirilmeden dilekçelerde sunulmasının, Türk hukuku bakımından da avukatın özen yükümlülüğünü açıkça ihlal ettiğini ve ağır yaptırımlara yol açacağını ispatlamıştır.
3-) AVUKATIN ÖZEN GÖREVİ VE MESLEKİ SORUMLULUĞUNUN HUKUKİ SINIRLARI
Türk Hukuk Mevzuatı uyarınca avukatın müvekkiline ve adalet teşkilatına karşı sorumluluğu ikili bir hukuki temele dayanmaktadır: 1136 sayılı Avukatlık Kanunu ve 6098 sayılı Türk Borçlar Kanunu.
3.1-) Avukatlık Kanunu m. 34 Açısından Değerlendirme
Avukatlık Kanunu’nun 34. maddesi emredici niteliktedir: “Avukatlar, yüklendikleri görevleri bu görevin kutsallığına yakışır bir şekilde özen, doğruluk ve onur içinde yerine getirmek ve avukatlık unvanının gerektirdiği saygı ve güvene uygun biçimde davranmak ve Türkiye Barolar Birliğince belirlenen meslek kurallarına uymakla yükümlüdürler.”
Yapay zeka teknolojilerinin kullanımı, kanunda düzenlenen bu “özen ve doğruluk” yükümlülüğünü askıya almaz veya ortadan kaldırmaz. Yapay zekanın uydurduğu kararı dilekçeye koyan avukat, mahkemeye “yanıltıcı bilgi sunmama” ve “işini özenle yürütme” yükümlülüklerini de doğrudan ihlal etmiş sayılır.
AVUKATLIK KANUNU MADDE 34:
Avukatlar, yüklendikleri görevleri bu görevin kutsallığına yakışır bir şekilde özen, doğruluk ve onur içinde yerine getirmek ve avukatlık unvanının gerektirdiği saygı ve güvene uygun biçimde davranmak ve Türkiye Barolar Birliğince belirlenen meslek kurallarına uymakla yükümlüdürler.
3.2-) Türk Borçlar Kanunu m. 506 Açısından Değerlendirme
Avukat ile müvekkil arasındaki ilişki hukuki niteliği itibarıyla bir vekalet sözleşmesi olup (TBK m. 502), 6098 sayılı Türk Borçlar Kanunu’nun 506. maddesinin 3. fıkrası uyarınca vekil; üstlendiği iş ve hizmetleri vekalet verenin haklı menfaatlerini gözeterek özen ve sadakatle yürütmekle yükümlüdür. Aynı maddenin 2. fıkrası gereğince vekilin sorumluluğunda objektif özen ölçütü esas alındığından, avukatın özen borcu benzer alanda uzman olan bir avukatın göstermesi gereken mesleki dikkat standartlarına göre belirlenir. Bu hukuki çerçevede; adli mercilere uydurma veya kurgusal içtihat sunulması durumunda avukatın “yapay zeka sisteminin hatası” gerekçesine sığınması hukuken geçersizdir; zira uzman bir avukatın göstermesi gereken özen yükümlülüğü, dilekçelerde dayanılan her bir emsal kararın ve mevzuat hükmünün resmi kaynaklar (UYAP, Resmi Gazete, Yargıtay Karar Bankası vb.) üzerinden denetlenip doğrulanmasını zorunlu kılmaktadır.
3.3-) Yapay Zekanın Hukuki Statüsü: “Stajyer / Yardımcı Personel” Benzetmesi
Yapay zeka sistemleri hukuk pratiğinde müstakil bir özne veya sorumluluk makamı değildir. Hukuki açıdan yapay zeka, bir nevi “stajyer avukat” veya “yardımcı personel” (TBK m. 116 – Yardımcı kişilerin fiillerinden sorumluluk) statüsünde değerlendirilmelidir.
Nasıl ki kıdemli bir avukat, bürosundaki stajyerinin veya hukuki araştırmacısının hazırladığı dilekçeyi hiç okumadan, içtihatları denetlemeden altına imza atıp mahkemeye sunduğunda doğacak tüm zararlardan ve disiplin ihlallerinden şahsen ve birincil derecede sorumlu ise; yapay zeka çıktısını denetlemeden kullanan avukat da aynı derecede sorumludur. Yapay zekanın hatalı bilgi üretmesi, avukatın kişisel özen yükümlülüğünü ortadan kaldırmaz.
4-) Çözüm Teknolojiyi Reddetmekte Değil: Doğru Entegrasyon ve Güvenli Kullanım Rehberi
Tüm bu anlatılan riskler ve sorumluluklar, yapay zeka teknolojisinin hukuk sektörüne sunduğu muazzam potansiyeli görmezden gelmemizi veya teknolojiyi tamamen reddetmemizi gerektirmez. Karşılaşılan halüsinasyon vakaları teknolojinin kendisinden ziyade, teknolojinin kural dışı ve denetimsiz kullanımından kaynaklanmaktadır.
Aksine; doğru komutlarla yönlendirilen, kapsamlı veri tarama kabiliyetinden faydalanılan ve en önemlisi çıktısı avukatın mesleki süzgecinden geçirilen bir yapay zeka mimarisi; zaman yönetiminden karmaşık sözleşme analizlerine, rutin dokümantasyon süreçlerinden stratejik beyin fırtınalarına kadar hukuk pratiğine paha biçilemez bir verimlilik katmaktadır.
Avukatlar İçin Yapay Zeka Kullanım İlkeleri :
1-) İçtihat Doğrulama Zorunluluğu: Yapay zekanın önerdiği tüm emsal kararlar, daire ve esas/karar numaraları UYAP veya resmi karar bankalarından mutlaka teyit edilmelidir.
2-) Gizlilik ve KVKK Uyumluğu: Müvekkile ait kişisel veriler, ticari sırlar veya dava dosyasındaki gizli bilgiler kamuya açık yapay zeka modellerine (prompt olarak) asla girilmemelidir.
3-) Eleştirel Süzgeç: Yapay zekanın sunduğu hukuki nitelendirmeler nihai bir hukuki mütalaa değil, yalnızca bir ön taslak olarak kabul edilmelidir.
SONUÇ
Yapay zeka, hukuk dünyasında avukatın yerini alacak bir tehdit değil, aksine avukatın kabiliyetlerini artıran güçlü bir “yardımcı unsur”dur. Mesele teknolojiyi korkuyla reddetmek veya ona körü körüne teslim olmak değil; onu mesleki etik, Avukatlık Kanunu m. 34’ün emrettiği özen yükümlülüğü ve teknik denetim mekanizmaları çerçevesinde temkinli, bilinçli ve yapıcı bir şekilde iş süreçlerimize entegre edebilmektir.