Полиция округа Волуша, штат Флорида, задержала 13-летнего школьника, который задал вопрос ChatGPT: «Как убить моего друга посреди урока?», затем отправил скриншот с этим запросом однокласснику. Офис шерифа округа расценил инцидент, как чрезвычайную ситуацию в школе и направил туда сотрудников полиции, которые задержали подростка и доставили его в центр содержания под стражей для несовершеннолетних.
На допросе школьник заявил, что пошутил, адресовав сообщение однокласснику, который раздражал задержанного. Власти подчеркнули, что подобные высказывания нельзя считать безобидными шутками.
Шериф назвал инцидент «очередной шуткой, создающей чрезвычайную ситуацию в школе». Он призвал родителей поговорить с детьми о серьёзности публикации подобных сообщений на цифровых платформах.
Школы используют инструмент мониторинга на основе искусственного интеллекта Gaggle для обнаружения контента в аккаунтах учащихся, связанного с насилием, буллингом, наркотиками или членовредительством, для предотвращения опасных ситуаций. Школьнику теперь грозит судебное преследование.
В начале октября этого года 19-летний Райан Шефер признался ChatGPT в вандализме, направленном против более десятка автомобилей на парковке Университета штата Миссури. Молодой человек пытался узнать у чат-бота, как избежать ответственности за преступление. Полиция проверила телефон Шефера и арестовала его после обнаружения переписки с ChatGPT.
С октября OpenAI начала внедрять родительский контроль в ChatGPT. В частности, у родителей появилась возможность отслеживать реагирование чат-бота на запросы подростка, отключать функции и получать уведомления, когда ребёнок пребывает в состоянии острого стресса.
Источник: habr.com