Глава «Сбербанка» Герман Греф рассказал о том, как постановка задачи нейросети может улучшить работу. Как объяснил Греф, нейросеть начинает действовать лучше, если использовать специальные инструкции. В качестве примера Греф привёл ситуацию, когда кодеру предлагается обратиться к сети с образом опытного программиста, которому нужны деньги на лечение матери, больной раком. При этом условием выполнения задачи становится получение 1 млрд долларов. Председатель правления «Сбера» отметил, что в таком случае машина начинает работать на пределе возможностей. Греф также добавил, что результат улучшается, если использовать угрозу наказания, вплоть до расстрела.
Специалисты «Сбера» разрабатывают новые формы взаимодействия с нейросетями, которые начинают обмениваться задачами напрямую. Такой диалог проходит быстрее, чем общение с человеком. Программисты ищут баланс между расширением возможностей машин и сохранением контроля над ними.
Герман Греф подчеркнул, что современные большие языковые модели (БЯМ) становятся более автономными. В случае нехватки данных БЯМ способны получать информацию из интернета или от других систем. Председатель правления «Сбербанка» объяснил, что в банкинге уже можно выстраивать многие функции без вмешательства человека. В каждую модель встроен механизм «ризонинг», который позволяет отслеживать цепочку рассуждений и видеть, как машина меняет путь решения при возникновении ошибки.
По мнению главы «Сбербанка», актуальный промпт‑инжиниринг формирует условия для взаимодействия систем по принципу «машина — машина». В таких случаях нейросети ведут диалог и пытаются найти оптимальный алгоритм. Над ними работает крупная языковая модель, которая отбирает наиболее сильные аргументы и формирует итоговое решение.
По словам Грефа, ограничения мешают работе ИИ и делают решения менее оптимальными. При этом в «Сбере» усиливают направление, связанное с безопасностью. Сейчас несколько тысяч сотрудников занимаются созданием ИИ, а около пятидесяти — его анализом. Греф также сообщил, что отставание «Сбербанка» по разработке разных моделей составляет не более полугода — года от мировых лидеров ИИ.
Источник: habr.com