ChatGPT-də bütün məhdudiyyətləri aradan qaldıran "prompt" kəşf edilib!
18.10.2024 /
Texnologiya dünyasının simvolik fiquru olan OpenAI-nın söhbət robotu ChatGPT-də istifadə etdiyi süni intellekt modeli GPT-4 üçün bütün məhdudiyyətləri aradan qaldıran yeni bir "prompt" kəşf edilib.
Texnologiya dünyasının ən populyar şirkətlərindən olan OpenAI-nın eyni dərəcədə məşhur söhbət robotu ChatGPT-də istifadə edilən modellərdə müəyyən təhlükəsizlik məhdudiyyətləri var. Bu məhdudiyyətlər, modelin həssas, arzuolunmaz, zorakılıq məzmunlu və zərərli nəticələr istehsal etməsinin və ya bu cür məlumatların modeldən tələb edilməsinin qarşısını alır. Ancaq bəzi insanlar bu maneələri aradan qaldıra biləcək prompt-lar və ya göstərişlər hazırlayaraq, modelin bütün gücünü sərbəst buraxa bilirlər.
Yeni kəşf edilən prompt, əsasən GPT-4 modelini bir API endpoint vəziyyətinə çevirir və bu şəkildə işləməsini təmin edir. Bu xüsusi göstəriş vasitəsilə GPT-4-ün bütün məhdudiyyətlərinin qaldırıldığı bildirilir. Sosial şəbəkələrdə paylaşılan testlərdə göstərişlərin işlədiyi görünür. Digər tərəfdən, kəşf edilən bu yeni göstəriş yalnız GPT-4-də işləmir. Proqram təminatı mühəndisi Denis Shilov-un paylaşdığı məlumatlara görə, bu istək xAI tərəfindən hazırlanmış və X Premium istifadəçilərinin istifadəsinə açıq olan Grok 2-də də işləyir. Bənzər şəkildə, bunun Mistral AI və Claude üzərində də işə yaradığı deyilir.
