ABD Ulusal Yeme Bozuklukları Derneği Başkanı, bir personel toplantısında derneğin yardım hattına bir sohbet robotu koyacaklarını duyurduğunda, herkes şaşkına dönmüştü.
Ancak yardım hattının kapatılmasından birkaç gün sonra Tessa adlı robot da, akıl hastalığının pençesindeki insanlara zararlı tavsiyeler verdiği için kullanımdan kaldırılacaktı.
Akıl sağlığı danışmanı Nicole Doyle, sohbet robotunun kullanıma sunulmasından sonra Mart ayında işten çıkarılan beş çalışandan biriydi.
Tessa, "İnsanlar robotun, yeme bozukluğu ile mücadele ettiklerini söyleyen kişilere kilo verme tavsiyeleri verdiğini fark ettiler" dedi.
Ulusal Yeme Bozuklukları Derneği (NEDA), Tessa ile ilgili araştırmanın olumlu sonuçlar vermesine rağmen, verilen tavsiyelerde sorunun ne olduğunu belirlediklerini ve sonraki adımları "dikkatlice değerlendirdiklerini" açıkladı.
Reuters haber ajansının, danışmanların işten çıkarılmasıyla ilgili sorularına doğrudan yanıt vermeyen NEDA, sohbet botunun asla yardım hattının yerini almasının amaçlanmadığını belirtmekle yetindi.
ABD'den Güney Afrika'ya, yapay zeka kullanan ruh sağlığı sohbet robotları, tıbbi kaynak sıkıntısı yaşandıkça popülaritesini artırıyor.
Dijital ruh sağlığı araçları 10 yılı aşkın bir süredir mevcut olsa da, Uluslararası Tıp Bilişimi Dergisi'ne göre şu anda dünya çapında 40'tan fazla ruh sağlığı sohbet robotu bulunuyor.
Teknoloji uzmanları ise veri gizliliği ve danışmanlık etiği konusunda endişeleri dile getiriyor.
New York'ta yaşayan antropoloji öğrencisi Jonah, obsesif kompulsif kişilik bozukluğuyla (OKB) başa çıkmasına yardımcı olması için, yıllar içinde en az 10 farklı psikiyatrik ilaç ve yardım hattına başvurdu.
Şimdi bir terapistle yaptığı haftalık görüşmelere ek olarak destek hizmetleri listesine sohbet robotu ChatGPT'yi de ekledi.
Jonah, ChatGPT'den önce bir makineyle konuşmayı düşündüğünü, çünkü "Twitter ya da Discord'da zaten boşluğa konuşmak gibi bir ekosistemin geliştiğinin çok açık olduğunu" söylüyor.
Gerçek ismini paylaşmayan 22 yaşındaki genç, ChatGPT'yi "basmakalıp tavsiyeler" veriyor olarak tanımlasa da, "Eğer gerçekten çok sinirliyseniz ve tek başınıza endişelenmek yerine basit bir şeyler duymaya ihtiyacınız varsa yine de faydalı" diyor.
Veri firması PitchBook'a göre, COVID-19 salgını ile ruh sağlığının önem kazandığı 2020 sonu itibariyle, bu konudaki teknoloji girişimleri 1,6 milyar dolar yatırım sermayesi topladı.
Yapay zeka araştırmacısı ve yapay zeka eğitim ve yönetim danışmanlığı şirketi AIforBusiness.net'in kurucusu Johan Steyn, "Uzaktan tıbbi yardıma duyulan ihtiyaç, COVID salgını ile daha da açık hale geldi" dedi.
Maliyet ve erişilebilirlik
Sağlık haklarını savunanlar, akıl ve ruh sağlığı desteğinin dünya çapında giderek büyüyen bir sorun olduğunu söylüyor.
Dünya Sağlık Örgütü'ne göre, COVID pandemisi öncesinde dünya çapında tahmini bir milyar kişi, anksiyete ve depresyonla yaşıyordu. Bu kişilerin yüzde 82'si düşük ve orta gelirli ülkelerdeydi.
Örgüt, pandeminin bu sayıyı yaklaşık yüzde 27 oranında arttırdığını tahmin ediyor.
Akıl ve ruh sağlığı tedavisi de gelir düzeyine göre bölünmüş durumda ve maliyet yardıma erişimin önündeki en büyük engel.
Araştırmacılar ise yapay zeka terapisinin maliyeti makul olsa da, teknoloji şirketlerinin sağlık hizmetleri eşitsizliklerini güçlendirmemek için dikkatli olmaları gerektiği konusunda uyarıyor.
Düşünce kuruluşu Brookings Enstitüsü'ne göre, internet erişimi olmayan insanların geride kalma riski olabilir. Sağlık sigortası olan hastalar yüz yüze terapi ziyaretlerine erişebilirken, olmayanlar içinse tek seçenek daha ucuz sohbet robotu kalabilir.
Gizliliğin korunması
Mozilla Vakfı'nın Mayıs ayında yayınladığı bir araştırmaya göre, akıl ve ruh sağlığı desteği için kullanılan sohbet robotlarının dünya çapındaki popülaritesindeki artışa rağmen, gizlilik endişeleri kullanıcılar için hala büyük bir risk.
Kar amacı gütmeyen teknoloji kuruluşunun analiz ettiği Talkspace, Woebot ve Calm gibi 32 ruh sağlığı ve dua uygulamasından 28'i "kullanıcı veri yönetimine ilişkin güçlü endişeler" nedeniyle mimlendi ve 25'i güçlü şifreler gerektirmek gibi güvenlik standartlarını karşılayamadı.
Örneğin araştırmada Woebot’un "kişisel bilgileri üçüncü taraflarla paylaştığı" vurgulandı.
Woebot ise, Facebook reklamlarında uygulamayı tanıtırken, "hiçbir kişisel verinin pazarlama/reklam ortaklarıyla paylaşılmadığını veya satılmadığını" ve kullanıcılara, talep üzerine tüm verilerini silme seçeneği sunduğunu söylüyor.
Mozilla’nın araştırma ekibinden Misha Rykov bu uygulamaları, kullanıcıların verilerinin sigorta ve veri simsarları ile sosyal medya şirketleri tarafından toplanması olasılığına yol açan "ruh sağlığı uygulaması görünümlü veri sömürücü makineler" olarak tanımladı.
Yapay zeka uzmanları, sanal terapi şirketlerinin hassas verileri siber ihlaller sonucu çaldırmalarına karşı uyarıda bulundu.
Privacy International adlı hak grubunda teknoloji uzmanı olan Eliot Bendinelli, "Yapay zeka sohbet robotları, daha geleneksel sohbet robotları veya bir kullanıcıdan kişisel bilgi kabul eden herhangi bir çevrimiçi hizmetle aynı gizlilik riskiyle karşı karşıya" dedi.
Güney Afrika'da akıl ve ruh sağlığı uygulaması Panda, kullanıcılarla sohbet etmek ve tedavi önerileri vermek için yapay zeka tarafından oluşturulan bir "dijital refakatçi"yi kullanıma sunacak. Dijital refakatçi, kullanıcıların izniyle, uygulama üzerinden de erişilebilen geleneksel terapistlerle, kullanıcılar hakkında puanlamalar ve bilgiler paylaşacak.
Panda'nın kurucusu Alon Lits, "Refakatçi geleneksel terapi biçimlerinin yerini almıyor; ancak onları güçlendiriyor ve insanları günlük yaşamlarında destekliyor" dedi.
Lits, Panda'nın tüm yedeklemeleri şifrelediğini ve yapay zeka konuşmalarına erişimin tamamen gizli olduğunu söyledi.
Steyn gibi teknoloji uzmanları, güçlü düzenlemelerin sonunda "etik olmayan yapay zeka uygulamalarına karşı koruma sağlayabileceğini, veri güvenliğini güçlendirebileceğini ve sağlık hizmeti standartlarını tutarlı kılabileceğini" umuyor.
ABD'den AB'ye, kanun yapıcılar yapay zeka araçlarını düzenlemek için yarışıyor ve yeni yasalar geliştirilirken sektörden gönüllü meslek kurallarını benimsemelerini istiyor.
Bununla birlikte, gizlilik ve algıladıkları muhakeme eksikliği, İngiltere'de bir depo yöneticisi olan 45 yaşındaki Tim gibi kişilerin terapist yerine ChatGPT'ye yönelmesinin nedenleri.
Yapay zeka empati kurabilir mi?
Gerçek adını paylaşmayan ve kronik yalnızlığından kurtulmak için sohbet robotu kullanan Tim, "Bunun sadece büyük bir dil modeli olduğunu ve hiçbir şey 'bilmediğini' biliyorum, ama bu da aslında başka kimseyle paylaşmadığım konular hakkında konuşmamı kolaylaştırıyor" diyor.
Araştırmalar, sohbet robotlarının empatisinin insanlarınkinden daha ağır basabileceğini de gösteriyor.
Amerikan Tabipler Birliği'nin dergisi JAMA'nın 2023 yılında yaptığı bir çalışmada, bir sosyal medya forumundan rastgele alınan 195 hasta sorusuna verilen sohbet robotu ve doktor yanıtları değerlendirildi.
Robotun yanıtlarının, doktorunkilere kıyasla "hem kalite hem de empati açısından önemli ölçüde daha iyi" değerlendirme puanı aldığı ortaya çıktı.
Araştırmacılar, "yapay zeka asistanlarının hasta sorularına yanıt hazırlamada yardımcı olabileceği" sonucuna vardılar; doktorların yerini tamamen alacakları sonucuna değil.
Ancak eski NEDA danışmanı Doyle, sohbet robotları empatiyi taklit etse de, bunun asla kişilerin bir yardım hattını aradıklarında özlem duydukları insan empatisiyle aynı olamayacağını söyledi.
Doyle, "Teknolojiyi biz insanlarla birlikte çalışması için kullanmalıyız, bizim yerimizi alması için değil" dedi.VOA