OpenAI, ChatGPT’nin sağlık, hukuk ve finans konularında tavsiye vermesini yasakladı; model artık yalnızca eğitim amaçlı kullanılacak. OpenAI, yapay zekâ destekli sohbet uygulaması ChatGPT için yeni kısıtlamaları yürürlüğe koydu. 29 Ekim’den itibaren geçerli olan düzenlemelerle birlikte ChatGPT, artık tıbbi, hukuki ve finansal konularda doğrudan tavsiye veremeyecek.
Yeni kurallara göre model, bundan sonra “danışman” değil, “eğitim aracı” olarak tanımlanacak. Kullanıcılar sağlık, hukuk veya finansla ilgili bir soru sorduğunda, sistem onları doktor, avukat ya da mali müşavir gibi uzmanlara yönlendirecek.
Kısıtlamalar kapsamında ChatGPT artık ilaç isimleri veya dozaj önerileri paylaşamayacak, dava dilekçesi hazırlayamayacak ve yatırım tavsiyesi veremeyecek. Uzmanlar, bu adımın yanlış yönlendirme riskini azaltacağını ve kişisel verilerin güvenliğini güçlendireceğini belirtiyor.
OpenAI’nin kararında, modelin “empati kuramayacağı” ve bireysel riskleri doğru analiz edemeyeceği gerekçesi öne çıktı. Örneğin kullanıcı “göğsümde şişlik var” gibi bir belirti yazdığında, modelin yanlış sonuçlara yol açabileceği ifade edildi.
Ayrıca ChatGPT, psikolojik destek veya terapi amacıyla da kullanılamayacak. Yeni etik çerçeve, eğitim ve sanat üretiminde hile veya aldatma amaçlı kullanımı da yasaklıyor.
Yetkililer, bu adımların kullanıcı güvenliğini artıracağını ve yanlış yönlendirmeleri azaltacağını belirtiyor.
