Чат-боты могут собирать слишком много данных.
За месяц регулярной переписки нейросеть может составить подробное представление о пользователе, в том числе на основе косвенных признаков. Об этом RT рассказал заведующий Лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.
По словам эксперта, из запросов ИИ может предположить профессию, уровень знаний, интересы, распорядок дня, наличие детей и финансовые ограничения. Манера общения также позволяет системе оценивать, какие аргументы кажутся человеку убедительными и склонен ли он искать подтверждение своим решениям.
Персонализация помогает адаптировать ответы под пользователя, но не гарантирует их достоверность. Если человек описывает проблему только со своей стороны, нейросеть может укреплять его убеждения, отметил Силаев.
Чтобы проверить влияние контекста, эксперт посоветовал задать один вопрос в привычном диалоге и новом чате, а затем сравнить ответы. Также можно попросить ИИ перечислить известные ему сведения о пользователе и использованные предположения.
Силаев рекомендовал проверять настройки памяти и выяснять, какие данные сервис сохраняет между разговорами. Новый чат не обязательно означает, что прежний контекст исключен. Советы ИИ по вопросам здоровья, финансов, права и работы необходимо проверять независимо, даже если они совпадают с ожиданиями.
Источник: hi-tech.mail.ru