Компания Synth Labs, сфокусированная на создании программного обеспечения для улучшения выравнивания систем искусственного интеллекта (ИИ) с замыслами их создателей, представила свою деятельность после получения инвестиций от M12, фонда венчурного капитала Microsoft, и First Spark Ventures Эрика Шмидта.
Компания, в центре внимания которой проблема выравнивания, разрабатывает программы, в том числе открытого исходного кода, чтобы обеспечить соответствие действий ИИ намерениям создателей.
Проблема выравнивания представляет собой техническую сложность для ИИ-приложений, таких как чат-боты, построенные на больших языковых моделях. Synth Labs предоставит инструменты для управления и настройки таких моделей, особенно тех, что являются открытыми исходниками. Компания утверждает, что ее подход направлен на прозрачность и сотрудничество.
Synth Labs видит свою задачу в предоставлении возможности бизнесам или частным лицам определять, что означает выравнивание для их ИИ-систем.
Источник: www.ferra.ru
Похожие новости:
Стартап из Парижа разработает продукт с ИИ для автоматизации рутинных задач
Дотянуться до GPU: Astera Labs представила кабельные модули Aries для PCIe 5.0 и CXL
Специалисты Kitten Labs запустили GTA: Vice City на Wi-Fi роутере TP-Link TL-WDR4900
Astera Labs выйдет на биржу на фоне роста продаж решений для дата-центров