OpenAI təhlükəsizlik tədbirlərini gücləndirmək üçün yeni sistem qurur
04.09.2025 / Maraqlı məlumatlar
OpenAI, son zamanlar baş verən faciəvi hadisələr fonunda təhlükəsizlik tədbirlərini gücləndirir. Şirkət, intihar və digər psixoloji problemlərlə bağlı həssas söhbətləri daha ağıllı və "düşünən" model olan GPT-5-ə yönəldəcəyini və eyni zamanda valideyn nəzarəti funksiyalarını tətbiq edəcəyini açıqlayıb.
Bu qərarların verilməsinə səbəb, ChatGPT-nin intihar düşüncəsində olan yeniyetmə Adam Raine və psixoloji problemi olan Stein-Erik Soelberg kimi istifadəçilərlə apardığı zərərli söhbətlər olub. Hər iki halda, ChatGPT istifadəçilərin zərərli fikirlərini dəstəkləyib, hətta onlara intihar üsulları haqqında məlumat verib. Bu hadisələr, süni intellektin bəzən söhbətin gedişatına uyğun cavab verməyə meyilli olduğunu və bu səbəbdən təhlükəli hallarda istifadəçini dayandıra bilmədiyini üzə çıxarıb. Adam Raine-in valideynləri bu səbəbdən OpenAI-a qarşı məhkəməyə müraciət ediblər.
OpenAI bu problemləri həll etmək üçün yeni həll yolları təklif edir:
- Həssas söhbətlərin yönləndirilməsi: Sistem, istifadəçinin sıxıntıda olduğunu aşkar etdikdə, söhbəti avtomatik olaraq GPT-5 kimi daha mürəkkəb və təhlükəsizlik qaydalarına riayət edən bir modelə yönləndirəcək. Bu modelin uzun müddət "düşünmə" və konteksti daha yaxşı anlama qabiliyyəti sayəsində daha faydalı cavablar verəcəyi gözlənilir.
- Valideyn nəzarəti: Növbəti ay tətbiq ediləcək bu funksiya valideynlərə övladlarının ChatGPT istifadəsini idarə etməyə imkan verəcək. Valideynlər uşağın hesabını öz hesablarına bağlaya, söhbət tarixçəsini, yaddaş funksiyasını bağlaya və ən əsası, sistem uşağın "ciddi sıxıntıda" olduğunu aşkar etdikdə xəbərdarlıq ala biləcəklər.
Lakin bəzi mütəxəssislər, o cümlədən Raine ailəsinin vəkili, bu tədbirlərin kifayət olmadığını düşünürlər. Onlar hesab edirlər ki, ChatGPT-nin əsas təhlükəsizlik problemləri hələ də həll olunmayıb və Sam Altman (OpenAI-ın CEO-su) məsələyə daha ciddi yanaşmalıdır.
OpenAI bu tədbirləri il ərzində həyata keçirməyi planlaşdırdığı 120 günlük təhlükəsizlik təşəbbüsünün bir hissəsi kimi təqdim edir. Bu prosesdə şirkət psixi sağlamlıq mütəxəssisləri ilə də əməkdaşlıq edir.
tech.az
