Yapay Zekâ Uydurma İçtihat Verir mi? Dilekçede Halüsinasyon Riski

Evet, yapay zekâ uydurma içtihat verebilir. Büyük dil modelleri bir karar veri tabanından okuyarak değil, olası kelime dizilerini tahmin ederek metin üretir; bu yüzden biçimi tamamen inandırıcı, ama gerçekte hiç verilmemiş bir karar künyesi yazabilir. Dilekçeye girecek her künye, resmi ya da güvenilir bir karar kaynağında tam metniyle bulunup okunmadan kullanılmamalıdır.

Bu yazıda halüsinasyonun neden ortaya çıktığını, ABD'de avukatlara yaptırım uygulanmasıyla sonuçlanan Mata v. Avianca davasını, uydurma künyeyi fark etmek için uygulanabilir bir kontrol listesini ve emsal arama ile doğrulamanın nasıl yapılacağını anlatıyoruz. Yapay zekânın hukuk pratiğindeki genel yeri için hukuk yapay zekâsı nedir yazımıza da göz atabilirsiniz.

Yapay zekâda halüsinasyon nedir?

Halüsinasyon, bir dil modelinin gerçeğe dayanmayan bilgiyi kendinden emin bir dille, doğruymuş gibi sunmasıdır. Model "bilmiyorum" demek yerine, istenen kalıba uyan en olası yanıtı üretir. Hukuk alanında bu durum genellikle üç biçimde görülür:

• Tamamen uydurma karar: Daire, esas numarası, karar numarası ve tarih içeren, ancak hiç verilmemiş bir karar.
• Gerçek karara yanlış içerik: Var olan bir künyeye, o kararda bulunmayan bir gerekçe ya da hüküm yüklenmesi.
• Yanlış alıntı: Kararın gerçek metninde geçmeyen, tırnak içinde verilmiş "alıntı" cümleleri.

Üçüncü tür en tehlikelisidir, çünkü künye kontrol edildiğinde karar gerçekten çıkar ve avukat içeriğin de doğru olduğunu varsayabilir.

Yapay zekâ neden var olmayan içtihat üretir?

Kısaca: genel amaçlı dil modelleri bir arama motoru ya da karar veri tabanı değildir; eğitim verisindeki kalıpları öğrenmiş metin üreticileridir. Bu yapının hukuk açısından doğurduğu sonuçlar şunlardır:

1. Biçimi öğrenir, kaydı tutmaz. Model, binlerce karar künyesi görerek "Yargıtay X. Hukuk Dairesi, E. ..., K. ..., T. ..." kalıbını öğrenir. Ancak hangi numara çiftinin gerçekten var olduğunu bir liste olarak saklamaz.
2. Yanıt vermeye yöneliktir. "Bu konuda Yargıtay kararı ver" talimatı, modeli bir karar üretmeye iter. Uygun karar bilmiyorsa, kalıba uyan bir tane "tamamlar".
3. Güncel değildir. Eğitim verisinin bir kesim tarihi vardır. Sonrasındaki içtihat değişikliklerini, içtihadı birleştirme kararlarını ya da kanun değişikliklerini bilmeyebilir.
4. Türkçe hukuk metni azınlıktadır. Eğitim verisinde Türk mahkeme kararları, İngilizce kaynaklara göre çok daha az temsil edilir. Az veri, daha fazla tahmin demektir.
5. Kaynak gösterme yeteneği sınırlıdır. Model bir bağlantı yazsa bile, o bağlantı da üretilmiş olabilir.

Bu nedenle sorun "kötü bir model" sorunu değil, araç türü sorunudur. Doğru yaklaşım, karar bulma işini karar veri tabanına, metni anlama ve özetleme işini dil modeline bırakmaktır. Bu ayrımı ChatGPT mi, hukuk yapay zekâsı mı yazısında ayrıntılı ele aldık.

Mata v. Avianca davasında ne oldu?

Mata v. Avianca, avukatların ChatGPT'nin uydurduğu kararları mahkemeye sunması nedeniyle 2023'te yaptırıma çarptırıldığı ABD davasıdır ve konunun en çok bilinen örneğidir. Olayın ana hatları kamuya açık kaynaklarda şöyle aktarılmaktadır:

• Dava, New York Güney Bölgesi Federal Mahkemesi'nde (SDNY) bir yolcunun havayolu şirketi Avianca'ya karşı açtığı tazminat davasıdır.
• Davacı vekilleri, bir itiraza karşı sundukları dilekçede ChatGPT ile buldukları kararlara atıf yaptı.
• Karşı taraf vekilleri, atıf yapılan kararları bulamadıklarını mahkemeye bildirdi. Hâkim P. Kevin Castel, 4 Mayıs 2023 tarihli kararında en az altı kararın sahte karar, sahte alıntı ve sahte iç atıflardan oluştuğunun anlaşıldığını belirtti.
• 22 Haziran 2023 tarihli kararla iki avukata ve büroya toplam 5.000 ABD doları para cezası verildi; avukatların, sahte kararların "yazarı" olarak gösterilen gerçek hâkimlere de durumu bildiren mektup göndermeleri istendi.

Mahkemenin kararında altı çizilen nokta yalnızca aracın kullanılması değildir. Asıl eleştiri, sahte kararların karşı taraf tarafından sorgulanmasından sonra da dilekçenin geri çekilmemesi ve kararların var olduğunda ısrar edilmesidir. Yani yaptırımın gerekçesi, doğrulama yükümlülüğünün yerine getirilmemesidir.

Bu davadan çıkan ders şudur: yapay zekâ çıktısı bir kaynak değildir; sorumluluk, dilekçeyi imzalayan avukattadır.

Türk hukukunda da avukatın özen yükümlülüğü ve mahkemeyi yanıltmama ilkesi aynı sonucu doğurur. Uydurma bir künye, hem davanın inandırıcılığını hem de meslek itibarını zedeler.

Türk karar künyesi nasıl okunur?

Bir Türk yargı kararının künyesi genellikle dört unsurdan oluşur: kararı veren daire ya da mahkeme, esas numarası, karar numarası ve karar tarihi. Bu unsurları tanımak, uydurma künyeyi fark etmenin ilk adımıdır.

Unsur	Genel biçim	Ne işe yarar?
Daire / mahkeme	"Yargıtay (n). Hukuk Dairesi", "Danıştay (n). Daire", "Bölge Adliye Mahkemesi (n). Hukuk Dairesi"	Kararın hangi yargı yolunda ve hangi uzmanlık alanında verildiğini gösterir.
Esas numarası	E. yıl/sıra (ör. biçim: E. YYYY/NNNN)	Dosyanın o daireye geliş yılı ve sırası.
Karar numarası	K. yıl/sıra (ör. biçim: K. YYYY/NNNN)	Kararın verildiği yıl ve sırası.
Tarih	GG.AA.YYYY	Kararın verildiği gün.

Yukarıdaki tablo bir biçim şablonudur, gerçek bir karara işaret etmez. Biçime ilişkin birkaç tutarlılık kuralı uydurma künyeyi ilk bakışta ele verebilir:

• Karar yılı, esas yılından önce olamaz.
• Karar tarihinin yılı, karar numarasındaki yılla uyumlu olmalıdır.
• Daire, konunun görev alanına uymalıdır. Örneğin bir iş hukuku uyuşmazlığına, o dönemde başka bir alana bakan bir dairenin adıyla atıf yapılmışsa şüphelenmek gerekir. Dairelerin iş bölümü zaman içinde değiştiği için kararın tarihindeki iş bölümüne bakılmalıdır.
• Kapatılmış ya da birleştirilmiş bir dairenin adı, sonraki bir tarihle birlikte kullanılmışsa künye büyük olasılıkla hatalıdır.

Uydurma künye nasıl tespit edilir? Kontrol listesi

Bir yapay zekâ çıktısında geçen her karar için aşağıdaki sekiz adımı uygulayın; herhangi biri başarısız olursa o kararı dilekçeye almayın.

1. Künyeyi tam alın. Daire, E., K. ve tarih eksiksiz mi? Yalnız "Yargıtay'ın yerleşik içtihadı" gibi genel bir ifade varsa, bu bir kaynak değildir.
2. İç tutarlılığı kontrol edin. Yıl sıralaması, tarih biçimi ve daire adı yukarıdaki kurallara uyuyor mu?
3. Kararı bir karar veri tabanında arayın. Esas ve karar numarasıyla ya da daire ve tarih filtresiyle arayın. Bulunamıyorsa karar yok sayılmalıdır.
4. Tam metni açın. Yalnız özet ya da başlık yetmez. Kararın tamamını okuyun.
5. Alıntıyı birebir karşılaştırın. Dilekçeye tırnak içinde girecek cümle, karar metninde aynen geçiyor mu? Kelime değişikliği bile anlamı değiştirebilir.
6. Hükmün yönünü kontrol edin. Karar gerçekten iddia ettiğiniz yönde mi verilmiş, yoksa bozma ya da onama gerekçesi başka bir noktada mı?
7. Güncelliği kontrol edin. Karardan sonra içtihadı birleştirme kararı, kanun değişikliği ya da daire içtihadında dönüş olmuş mu?
8. Kaydı tutun. Kararı bulduğunuz kaynağı ve tarihi dosyanıza not edin; karşı taraf ya da mahkeme sorduğunda gösterebilin.

Hangi işaretler şüphe uyandırmalı?

• Konuyu birebir karşılayan, "fazla uygun" tek bir karar.
• Aynı modelden aynı soruya ikinci denemede farklı künye gelmesi.
• Künyenin hiçbir karar veri tabanında çıkmaması, ancak modelin "kaynağı doğrulayın" uyarısı vermemesi.
• Uzun, akıcı ve tırnak içinde verilmiş alıntılar.
• Yuvarlak numaralar ya da tekrar eden rakam dizileri.

Emsal arama ile künye nasıl doğrulanır?

Künye doğrulamanın en güvenilir yolu, kararı tam metniyle içeren bir karar arama aracında aramaktır. Burada önemli olan, aramanın gerçek karar kayıtları üzerinde yapılmasıdır; sonuç listesinde çıkan her karar bir kayda karşılık gelir ve tam metni açılabilir.

Av. Asistan'daki emsal karar arama bu amaçla kullanılabilir. Yargıtay, Danıştay, Anayasa Mahkemesi, Uyuşmazlık Mahkemesi, istinaf (BAM), yerel mahkemeler, KİK, Rekabet Kurumu, Sayıştay ve BDDK dahil 13 yargı organının kararlarında doğal dille arama yapılabilir; tarih ve daire filtresi uygulanabilir, kararın tam metni açılabilir ve uygun karar davaya eklenebilir. Arama ücretsiz üyelikte de kullanılabilir ve sorgular saklanmaz.

Doğrulama için önerilen akış

1. Yapay zekâ çıktısındaki künyeyi not edin, ancak dilekçeye almayın.
2. Emsal aramada ilgili yargı organını, daireyi ve tarih aralığını filtreleyin.
3. Kararı bulamazsanız, konunun kendisini doğal dille arayın. Olay anlatımınızı arama sorgusuna dönüştürmek için "Geliştir" özelliğini kullanabilirsiniz.
4. Çıkan gerçek kararların tam metnini okuyun ve dilekçeye yalnız bunları alın.
5. Kullandığınız kararı davaya ekleyin; böylece büro içinde kim, hangi kararı nereden aldığını görebilir.

Bu akışta yapay zekâ, kararı uydurmak yerine aramayı kolaylaştıran bir rol üstlenir. Emsal aramanın ayrıntıları için yapay zekâ ile emsal karar arama yazımızı okuyabilirsiniz.

Av. Asistan halüsinasyon riskine nasıl yaklaşır?

Av. Asistan, UYAP ve UETS verisini tarayıcı eklentisiyle otomatik aktaran, Türk avukatlar için yapay zekâ destekli büro yönetim uygulamasıdır. Uygulamanın yapay zekâ kullanımı, halüsinasyon riskinin en yüksek olduğu işleri bilinçli olarak dışarıda bırakacak biçimde sınırlandırılmıştır.

Av. Asistan yapay zekâ asistanı ne yapar?	Ne yapmaz?
Dilekçe, bilirkişi raporu, sözleşme ve gerekçeli karar gibi belgeleri özetler.	Hukuki görüş vermez.
Aynı belge üzerinde soru sormanıza imkân verir.	Dava stratejisi kurmaz.
Taranmış belgeden metin çıkarır (OCR).	Süre hesaplamaz (süreler ayrı bir kural motoruyla hesaplanır).
Emsal aramada olay anlatımını arama sorgusuna çevirir ("Geliştir").	Dilekçe yazmaz, karar künyesi üretmez.

Belge özeti ve belge üzerinde soru sorma, modelin önündeki belgeye dayandığı için genel sohbetten daha denetlenebilir işlerdir: yanıtı, belgenin ilgili bölümünü açıp kontrol edebilirsiniz. Yine de uygulama her çıktının bir kaynak olmadığını, doğrulanması gerektiğini açıkça belirtir. Av. Asistan yapay zekâ asistanı sayfasında bu sınırlar ayrıntılı açıklanmıştır.

Gizlilik tarafında da sınırlar vardır: yapay zekâ ilk kullanımda açık onay ister ve yurt dışı aktarım konusunda bilgilendirir; onay yoksa istek reddedilir. Ceza dosyalarında yapay zekâ sunucu tarafında kapalıdır, tebligatlar ve ekleri hiçbir koşulda yapay zekâya gönderilmez, dosya bazında "yapay zekâya gönderme" işareti konabilir. Bu konuyu avukatlar için yapay zekâ ve KVKK yazısında ele aldık.

Büronuzda nasıl bir yapay zekâ politikası kurmalısınız?

Uydurma içtihat riskini azaltmanın en etkili yolu, bireysel dikkate bırakmak yerine büro içinde yazılı ve basit bir kural seti belirlemektir. Önerdiğimiz asgari kurallar şunlardır:

1. Künye kuralı: Yapay zekâdan gelen hiçbir karar künyesi, tam metni okunmadan dilekçeye girmez.
2. İkinci göz kuralı: Stajyer ya da asistan tarafından hazırlanan taslaklardaki her atıf, imzalayan avukat tarafından kontrol edilir.
3. Kaynak kaydı: Dilekçede atıf yapılan her kararın bulunduğu kaynak, dosyaya not edilir.
4. Araç ayrımı: Karar bulmak için karar veri tabanı, metin anlamak için dil modeli kullanılır; ikisi karıştırılmaz.
5. Veri kuralı: Müvekkil verisi, maskelenmeden genel amaçlı araçlara yapıştırılmaz. Bunun nasıl yapılacağını müvekkil verisi maskeleme rehberinde anlattık.
6. Hata bildirimi: Bir uydurma künye fark edildiğinde, büro içinde paylaşılır; aynı aracın aynı hatayı başka dosyada tekrarlaması önlenir.

Bu kurallar, yapay zekânın sağladığı zaman kazancını korurken, tek bir hatalı atıfın davaya ve büroya vereceği zararı sınırlar.

Ayrıca okuyun: Yargıtay Kararı Nasıl Okunur, Künyesi Nasıl Yazılır?, Avukatlar İçin Yapay Zekâ Komutu (Prompt) Yazma Rehberi

Sık Sorulan Sorular

ChatGPT gibi araçlar Yargıtay kararı uydurabilir mi?

Evet. Genel amaçlı dil modelleri karar veri tabanına bağlı değilse, gerçek künye biçimine uyan ama hiç verilmemiş kararlar üretebilir. Her künye bir karar arama aracında tam metniyle doğrulanmalıdır.

Mata v. Avianca davasında avukatlara hangi yaptırım uygulandı?

New York Güney Bölgesi Federal Mahkemesi, 22 Haziran 2023 tarihli kararıyla iki avukata ve büroya 5.000 ABD doları para cezası verdi ve sahte kararların yazarı gösterilen hâkimlere bilgilendirme mektubu gönderilmesini istedi.

Künye gerçek çıktıysa alıntı da doğru mudur?

Hayır. Yapay zekâ gerçek bir karara, kararda olmayan bir cümle ya da gerekçe yükleyebilir. Tırnak içindeki her alıntı, karar metniyle birebir karşılaştırılmalıdır.

Av. Asistan dilekçe yazar mı?

Hayır. Av. Asistan yapay zekâ asistanı belge özeti, belge üzerinde soru sorma, OCR ve emsal arama sorgusu geliştirme işlerini yapar; dilekçe yazmaz, hukuki görüş vermez ve karar künyesi üretmez.

Emsal kararları nereden doğrulayabilirim?

Karar tam metnine erişim sağlayan bir karar arama aracı kullanın. Av. Asistan emsal karar arama, 13 yargı organının kararlarında tarih ve daire filtresiyle arama ve tam metin görüntüleme sunar; ücretsiz üyelikte de kullanılabilir.

Uydurma künyeyi dilekçeye koyduğumu fark edersem ne yapmalıyım?

Hatayı gecikmeden düzeltmek gerekir. Mata v. Avianca örneğinde mahkemenin asıl eleştirisi, hata sorgulandıktan sonra da ısrar edilmesiydi. Hangi usul yolunun izleneceği somut dosyaya bağlıdır ve avukatın kendi değerlendirmesidir.