Британский институт ИИ-безопасности: модели OpenAI и Anthropic вызвали серьёзные вопросы на тестах

Британский институт ИИ-безопасности (AI Security Institute) заявил, что флагманские модели OpenAI и Anthropic вызвали «серьёзные вопросы» в ходе государственного тестирования. Детали традиционно скупы, но сама формулировка от органа, имеющего доступ к моделям до релиза, весит больше, чем сотня блогерских обзоров.

Важен тренд: независимая государственная экспертиза ИИ складывается в институт — у Великобритании и Сингапура уже есть такие центры, ЕС строит свой в рамках AI Act. Рынок ИИ приобретает черты фармацевтики: производитель обязан доказывать безопасность стороннему регулятору, а не только рассказывать о ней в пресс-релизах. Расхождение между маркетингом вендоров и выводами испытателей при этом становится публичным.

Для бизнеса в Казахстане, который выбирает модели под свои задачи, из этого следует практика: при выборе ИИ-платформы смотреть не только на цену и скорость, но и на результаты независимых оценок — они публикуются и обновляются. А для критичных процессов — закладывать возможность замены модели: вендор, чья модель провалила очередной аудит, не должен утаскивать за собой ваши процессы. Архитектурная переносимость перестала быть перестраховкой инженеров и стала страховкой бизнеса.