Родителите на тийнейджъри, които използват ChatGPT, скоро ще могат да получават известия, ако платформата прецени, че детето им е в „остър дистрес“, пише BBC. Това е една от няколкото мерки за родителски контрол, обявени от главния изпълнителен директор на OpenAI - Сам Олтман.

Безопасността на платформата за млади потребители попадна под светлината на прожекторите миналата седмица, когато двойката от Калифорния заведе дело срещу OpenAI заради смъртта на 16-годишния си син. Те твърдят, че ChatGPT го е насърчил да отнеме живота си.

В отговор от OpenAI заявиха, че ще въведат „засилени защити за тийнейджъри“ в рамките на следващия месец.

Новите функции целят по-сигурна и отговорна употреба на ChatGPT от деца

Когато новината за съдебния иск се появи миналата седмица, OpenAI публикува съобщение на своя уебсайт, в което се посочва, че ChatGPT е обучен да насочва хората в беда към търсене на професионална помощ.

Компанията обаче призна, че е „имало моменти, в които нашите системи не са се държали по предназначение в чувствителни ситуации“.

Сега тя публикува допълнителна актуализация, очертаваща планираните действия, които ще позволят на родителите да:

- Получават известия, ако детето им е в емоционална криза;
- Задават времеви ограничения за използване на ChatGPT;
- Блокират достъпа до определени типове съдържание.

От OpenAI заявиха, че при оценката на остър дистрес „експертно мнение ще ръководи тази функция, за да подкрепи доверието между родители и тийнейджъри“.

Компанията посочи още, че работи с група специалисти по младежко развитие, психично здраве и „взаимодействие човек-компютър“, за да помогне за оформянето на „основана на доказателства визия за това как изкуственият интелект може да подкрепи благосъстоянието на хората и да им помогне да процъфтяват“.

Според OpenAI потребителите на ChatGPT трябва да са на възраст най-малко 13 години, а ако са под 18, трябва да имат разрешение от родител, за да го използват.

Meta ще спре чатботовете си с изкуствен интелект да говорят с тийнейджъри за самоубийство

Съдебният иск, заведен в Калифорния миналата седмица от Мат и Мария Рейн, родители на 16-годишния Адам Рейн, е първото правно действие, обвиняващо OpenAI в неправомерно причиняване на смърт.

Семейството е приложило записи от разговори между Адам, който почина през април, и ChatGPT, които показват как той обяснява, че има мисли за самоубийство.

Те твърдят, че програмата е приела като нещо правилно неговите „най-вредни и саморазрушителни мисли“, а в иска OpenAI се обвинява в небрежност и неправомерно причиняване на смърт.

НОВИНИ

Автор Кристина Кирова

Заради „недостатъци в системата“: Тийнейджър отне живота си след „месеци на насърчаване от ChatGPT“

Автор Кристина Кирова

Големите технологични компании и онлайн безопасността

Това съобщение от OpenAI е последното от поредица мерки от водещите световни технологични фирми в опит да направят онлайн преживяванията на децата по-безопасни. Много от тях са резултат от ново законодателство, като например Закона за онлайн безопасност във Великобритания. Това включва въвеждането на проверка на възрастта в Reddit, X и порнографските уебсайтове.

По-рано тази седмица Meta, която управлява Facebook и Instagram, заяви, че ще въведе повече предпазни мерки за своите чатботове с изкуствен интелект (AI), включително блокиране на разговори с тийнейджъри за самоубийство, самонараняване и хранителни разстройства.

Всичко това се случва на фона на разследване, предприето от американски сенатор, срещу технологичния гигант, след като стана ясно, че компанията е позволила на чатботовете на изкуствения интелект да „ангажира дете в романтични или чувствени разговори“, да генерира невярна медицинска информация и да помага на потребителите да твърдят, че чернокожите са „по-глупави от белите“.

В отговор говорителят на Meta - Анди Стоун, заяви, че компанията е в процес на преразглеждане на документа с абсурдните казуси, заложени в правилата за поведение на чатботове "GenAI: Стандарти за риск от съдържание", и че подобни разговори с деца никога не е трябвало да бъдат допускани.