Например, в Британии руководитель полиции потерял пост после того, как его команда приняла решение на основе выдуманных фактов от алгоритма.
Специалисты по влиянию технологий на человека бьют тревогу: мозг миллионов пользователей ИИ-сервисов буквально слабеет. Крейг Гилдфорд, глава полиции крупного британского региона, узнал об этом слишком поздно. Его сотрудники запретили израильским фанатам посетить футбол, опираясь на «доказательства» от алгоритма. Данные оказались полностью ложными. Министр потребовал отставки — не за использование технологий, а за то, что люди разучились проверять информацию своим умом.
Генеративные модели собирают статистику из терабайтов текстов и выдают наиболее вероятный ответ. Они не думают — они угадывают по шаблонам. Но фразы звучат настолько складно и уверенно, что человек принимает их за экспертное мнение. Проблема в том, что интеллект устроен как мышца. Перестаньте ходить — ноги ослабнут. Перестаньте считать в уме — разучитесь обходиться без калькулятора. Ученые уже зафиксировали массовый эффект: студенты, регулярно прибегающие к помощи ИИ, показывают худшие оценки, чаще забывают материал и откладывают задачи на последний момент. Их мозг просто теряет навык концентрации и глубокого анализа.
Три красных флага указывают, что вы в зоне риска. Самый главный это то, что вы больше не делаете набросков от руки. Раньше начинали со схемы на салфетке, списка на стикере, пары абзацев в заметках. Сейчас сразу открываете чат с ИИ и принимаете то, что он напишет как истину. Человек пропускает главное: этап, когда мозг выстраивает связи, ищет нестандартные пути, рождает оригинальные решения.
Источник: hi-tech.mail.ru