Сингапур стал первой страной в мире, которая намерена обязать технологические компании маркировать приложения с искусственным интеллектом специальными информационными этикетками — по аналогии с пищевой ценностью на продуктах. Министр цифрового развития и информации Джозефин Тео заявила Reuters, что этикетки будут описывать предполагаемое использование продукта, его ограничения и разделять «правильные» и «не совсем правильные» способы применения ИИ.
Сингапур начнет с добровольной системы, затем оценит эффективность и примет решение о следующих шагах. Параллельно страна разрабатывает системы тестирования и аккредитует организации для оценки ИИ-продуктов. Это часть стратегии превращения Сингапура в нейтральный хаб для ИИ-индустрии — уже объявлено о создании первой лаборатории OpenAI за пределами США и партнерстве Google DeepMind в образовании, здравоохранении и науке.
Как на упаковке продуктов указаны калории и белки, так и ИИ-продукты получат маркировку, раскрывающую их «потребительские свойства». По словам Тео, этикетки будут информировать пользователей о:
- Предполагаемом использовании (для каких задач предназначен ИИ);
- Ограничениях (где может ошибаться, при каких условиях неэффективен);
- «Правильных» и «неправильных» сценариях применения (например, чат-бот для консультаций, а не для медицинской диагностики).
Регулятор оценит, насколько такие маркировки снижают риски злоупотребления ИИ (дезинформация, дискриминация, утечка данных) и повышают прозрачность. После чего возможно введение обязательных требований.
Министр Тео также объявила о планах внедрить ИИ в 10 000 компаний и расширить его использование в производстве, медицине и финансах. Город-государство становится технологическим «швейцарским ножом» и выступает в роли «песочницы» для ИИ-регулирования. Если система признается успешной, другие страны (особенно в Азии и Европе) могут принять аналогичные стандарты для снижения риска фрагментации глобального рынка ИИ, где одни страны разрешают все, а другие вводят жесткие запреты.
Читайте также нашу статью о том, как автор книги про опасность ИИ попал в скандал из-за сгенерированных цитат.
Источник: hi-tech.mail.ru