Крупные ИИ-компании всё чаще нанимают специалистов с философским образованием, чтобы помогать формировать правила поведения нейросетей. Business Insider пишет, что такие люди работают над этическими рамками, политиками для моделей и вопросами вроде того, как чат-бот должен отвечать на сложные темы, избегать вреда и при этом оставаться полезным.
Речь не только о красивых разговорах про будущее. В материале упоминаются Google DeepMind, Anthropic и другие компании, где гуманитарные специалисты участвуют в настройке ИИ-систем, прозрачности и так называемом выравнивании моделей с человеческими ценностями. Отдельные вакансии в этой сфере уже обещают шестизначные зарплаты, а на высоких позициях суммы могут доходить до $400 тысяч в год.
Интерес к философам возник не на пустом месте. Ещё глава Google Сундар Пичаи (Sundar Pichai) говорил, что в разработке ИИ должны участвовать не только инженеры, но и этики с философами — иначе системы могут научиться убедительно говорить, но не понимать границы допустимого.
При этом вокруг тренда хватает скепсиса. Критики считают, что часть компаний может нанимать философов скорее ради красивой витрины, чем ради реального влияния на продукт: в гонке за скорость и рынок этические команды не всегда получают право остановить спорные решения. Поэтому главный вопрос не в том, появились ли философы в ИИ-индустрии, а в том, дадут ли им действительно менять правила игры.
Тема уже выходит за рамки узкой техносреды. По мере того как нейросети всё чаще становятся собеседниками, помощниками, учителями и советниками, вопрос «каким должен быть ИИ» превращается не только в инженерную задачу, но и в философскую. И тут внезапно оказывается, что умение спорить о морали, смысле и ответственности может стоить не меньше, чем умение писать код.
Как думаете, философы действительно помогут сделать ИИ безопаснее или корпорации просто прикрываются красивыми словами об этике? Делитесь в комментариях.
НовостиЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru