Yanlış Transkripsiyon Sorunları: Yapay Zeka Riskleri
OpenAI’nin Whisper adını verdiği yapay zeka destekli transkripsiyon aracı, yazılım mühendisleri, geliştiriciler ve akademik araştırmacılarla yapılan görüşmelere dayanarak, metinleri uydurarak yanlış içerikler oluşturduğu tespit edildi. Bu yanlış içeriklerin bazıları ırkçı ifadeler, şiddet içeren dil ve hayali tıbbi uygulamaları barındırabiliyor. Araştırmacılar, Whisper’ın tıbbi tesisler tarafından kullanılması halinde sorunların daha da büyüyebileceğine dikkat çekiyor. OpenAI’nin de ifade ettiği gibi, bu tür araçlar “yüksek riskli alanlara” uygun olarak geliştirilmemiştir. Ancak pek çok hastane, doktor-hasta görüşmelerinin transkripte edilmesi amacıyla bu aracı kullanıyor.
Gerçekleşen Yanlışlar Üzerine Araştırmalar
Bir araştırmacı, kamu toplantıları kapsamındaki çalışmalarında incelediği ses kayıtlarının yüzde 80’inde uydurma içeriklere rastladığını belirtirken, başka bir mühendis 100 saatten fazla transkripti analiz ettiğinde yarısında hatalar tespit ettiğini dile getirdi. Kısa ve net ses kayıtlarında bile sorunlar devam ederken, 13,000’den fazla ses kaydında 187 yanlış yer alan metin belirlendi.
Sağlık Ortamlarında Ciddi Etkiler
Yanlış transkripsiyonlar, hastane ortamlarında ciddi olumsuz sonuçlar doğurabiliyor. Bir üniversitede profesör olarak görev yapan bir uzman, “Yanlış teşhis istemiyoruz. Bu tür araçların kullanımında daha yüksek standartlar olmalı” dedi. Özellikle işitme engelli bireyler için yanlış olan metinleri tespit etmenin neredeyse imkansız olduğunu dile getiren bir diğer uzman, “Gizli uydurmalarla dolu metinler arasında gerçeği ayırt etmek çok zor” ifadesini kullandı.
Uzmanlar, OpenAI’nin bu çelişkileri çözmesi konusunda federal hükümete çağrıda bulundu. Bir araştırma mühendisi, “Bu sorun, şirket bunu öncelikli hale getirmeye istekliyse çözülebilir” şeklinde görüş belirtti. OpenAI ise, hata oranını azaltmak için çeşitli çalışmalar yürüttüğünü ifade etti.
Tıbbi Randevu Transkripsiyonu: Gereksinimler ve Sorunlar
Whisper, doktor ziyaretleri için transkripsiyon hizmeti için de kullanılmakta. Tıbbi terminolojiye özel olarak geliştirilmiş bir Whisper tabanlı araç sunan bir firma, 30,000’den fazla klinisyene hizmet veriyor. Bu firmanın teknoloji sorumlusunun verdiği bilgilere göre, aracın 7 milyon tıbbi ziyareti transkripte ettiği ve bu süreçte yanlış içeriklerin riski hakkında farkındalıklarının olduğu aktarıldı. Ancak orijinal ses kaydının silinmesi, hataların kontrol edilmesini zorlaştırma potansiyeline sahip.
Bir milletvekili, çocuklarından birini doktora götürdüğünde, sağlık ağının kendisinden alınan ses kaydının teknoloji firmalarıyla paylaşılması için izin istediğini belirtti. Bu vekil, “Özel sağlık bilgilerimi teknoloji firmalarıyla paylaşmak istemiyorum” diyerek durumu eleştirdi.
