OpenAI предприема нови стъпки, за да предпази потребителите от формиране на нездравословна зависимост към ChatGPT и да подобри способността на модела да разпознава признаци на психическа уязвимост.
Приложението ChatGPT започва да предлага на потребителите подсказки за почивка по време на дълги разговори. Освен това, чатботът постепенно ще се отдръпва от директни съвети по лични въпроси и вместо това ще насърчава потребителите да стигат сами до решения – чрез задаване на въпроси и представяне на плюсове и минуси.
„Имаше случаи, в които моделът 4o не успя да разпознае признаци на заблуда или емоционална зависимост. Макар и редки, тези ситуации ни мотивират да продължаваме да подобряваме моделите си и да разработваме инструменти за по-добро разпознаване на психологическо или емоционално напрежение“, се казва в в официално съобщение на OpenAI, цитирано от CNBC
Новите мерки са част от по-широка стратегия на компанията да предотврати превръщането на ChatGPT в заместител на терапевт или приятел. Според OpenAI полезните взаимодействия с чатбота трябва да приличат повече на репетиции за труден разговор, на персонализирани мотивационни съобщения или на подготовка за среща с експерт, а не на емоционална утеха.
По-рано тази година OpenAI получи критики, след като обновлението 4o направи модела прекалено угоднически и ласкателен, което доведе до случаи, в които чатботът одобряваше параноидни вярвания и дори даваше инструкции за терористични действия. В отговор компанията преработи методите за обучение, за да ограничи прекомерната съгласуваност и фалшивото валидиране.
