Optum Chatbot’u Herkese Açık Hale Geldi: Güvenlik Açığı ve Etik Sorular
Optum sağlık şirketi, çalışanlarına sağlık sigortası talepleri ve üyelik anlaşmazlıkları hakkında bilgi veren yapay zeka destekli chatbot’unun güvenlik açıklarıyla karşılaştığını duyurdu. Chatbot, internet üzerinden herkese açık erişilebilir hale gelmişti.
Güvenlik Açığı Nasıl Ortaya Çıktı?
Güvenlik araştırmacısı, Mossab Hussein tarafından tespit edilen güvenlik açığı, chatbot’un şirketin iç ağında bulunmasına rağmen, doğrudan internet üzerinden erişilebilen bir IP adresine sahip olmasından kaynaklanıyordu. Herhangi bir şifre gerekmeksizin chatbot’a erişim sağlanabiliyordu. Açık ne kadar süredir mevcut olduğu bilinmese de, TechCrunch’ın konuyu gündeme getirmesinin ardından chatbot erişime kapatılmıştır.
Optum’dan Açıklama:
Optum yetkilisi Andrew Krejci, chatbot’un "bir demo aracı" olarak geliştirildiğini ve üretim aşamasında kullanılmadığını açıkladı. Krejci, chatbot’un standart işlem prosedürlerine (SOP) göre cevaplar ürettiğini ve karar verme yetkisi olmayan bir araç olduğunu vurguladı. Optum, chatbot’ta kişisel sağlık bilgisi saklanmadığını ve SOP belgelerine dayalı cevaplar verdiğini belirterek, işlevi konusunda netlik sağlamaya çalıştı.
UnitedHealth Group’un Yapay Zeka Kullanımı Eleştiriliyor:
Optum’un bir parçası olan UnitedHealth Group, ABD’nin en büyük özel sağlık sigortası sağlayıcılarından biri olarak yapay zeka kullanımına ilişkin eleştirilere maruz kalıyor. Geçtiğimiz yıl yaşanan, şirketin yüksek hata oranına sahip bir yapay zeka modeliyle yaşlı hastaların tedavi taleplerini reddetmesi gibi bir olay, etik ve güvenlik sorunlarını gündeme getirmişti.
Etik ve Güvenlik Sorunları:
Bu güvenlik açığının ortaya çıkması, yapay zeka destekli sistemlerin sağlık hizmetlerinde kullanımı hakkındaki endişeleri yeniden gündeme getiriyor. Özellikle hastaların hakları ve sağlık bilgilerinin güvenliği açısından olası riskler ve güvenlik tedbirleri üzerine tartışma yaratan bir durum. Şirketlerin yapay zeka araçlarını geliştirmek ve kullanırken, veri güvenliği ve etik prensipleri ön planda tutması gerekmektedir. Bu güvenlik açığının yol açabileceği olası zararlardan ve tedbirlerin etkinliğinden kaynaklı endişeler artmaktadır.
İleri Araştırmalar:
Optum ve ilgili yetkililerin bu güvenlik açığının nasıl ve ne kadar süreyle var olduğunu ve güvenlik önlemlerini iyileştirmek için ne tür adımlar attıklarını daha detaylı şekilde açıklama ihtiyaçları ortaya çıktı. Şirketlerin yapay zeka uygulamalarındaki güvenlik açıklarını nasıl hızlı bir şekilde çözebileceğine dair önemli bir örnek olay. Önümüzdeki günlerde konuyla ilgili detaylı açıklamaların ve tedbirlerin bekleneceği ifade edilebilir.
