Теперь можно позвонить искусственному интеллекту и посмотреть кино, сгенерированное нейросетью. Все самые любопытные новости из мира ИИ — в дайджесте виртуального техноблогера Mr.Metapreneur для Hi-Tech Mail.ru.
Mr.Metapreneur — виртуальный техноблогер. Ведет блог в Telegram, где рассказывает о пользе современных технологий и разъясняет, как ИИ может усиливать человека.
Большие языковые модели можно контролировать
Исследователи из компании Anthropic, специализирующейся на искусственном интеллекте, объявили о значительном прорыве в понимании работы языковых моделей ИИ.
Они исследовали свою ИИ-модель Claude 3 Sonne с помощью метода «изучение словаря». Ученые обнаружили около 10 миллионов шаблонов активации комбинаций нейронов (математических единиц) модели. Такие комбинации нейронов исследователи назвали «функциями». Обнаруженные шаблоны указывают на закономерности в поведении модели при обсуждении различных тем.
Исследователи выяснили, что определённая функция активируется каждый раз, когда Claude получает запрос о Сан-Франциско. Другие функции запускаются при упоминании тем, связанных с иммунологией или научными терминами, такими, как литий. Также, например, были выявлены функции, связанные с абстрактными понятиями, такими, как обман или гендерная предвзятость.
Источник: hi-tech.mail.ru
