Контекст
В конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта. Такие модели должны соответствовать законам России и духовно‑нравственным ценностям.
На совещании по регулированию ИИ Яндекс представил концепцию тестовых заданий и эталонов для проверки ИИ на соответствие ценностям.
Собеседник отметил, что проект пока находится на стадии концепции.
Такие тесты должны оценивать соответствие искусственного интеллекта духу времени и ценностям страны.
Детали: проект пока на стадии концепции.
На совещании ФСБ настаивали на недоступности данных для тестов, чтобы разработчики не могли легко подстроить модели под тест.
Представитель бизнеса отметил, что закрытый датасет может оказаться слишком сложным и не позволить быстро развивать модели. Был предложен компромисс: тестирование будет происходить на сочетании закрытых и открытых данных с различными формулировками вопросов.