• NVIDIA в течение пяти лет будет предоставлять Великобритании вычислительные ресурсы стоимостью $250 млн для исследований в сфере безопасности искусственного интеллекта.
  • Ежегодно страна будет получать ресурсы на $50 млн, в частности для тестирования безопасности агентных систем ИИ.

Американский производитель чипов NVIDIA обязался предоставить Великобритании вычислительные ресурсы стоимостью $250 млн в течение пяти лет. Средства направят на исследования безопасности искусственного интеллекта, сообщает Reuters.

Инициатива должна поддержать стремление Великобритании стать одним из глобальных центров разработки стандартов и оценки рисков ИИ. Для этого страна, в частности, использует Институт безопасности ИИ (AI Security Institute) — один из первых государственных органов, созданных для оценки этой технологии, говорится в материале.

NVIDIA будет финансировать тестирование агентных систем ИИ

Основатель и генеральный директор NVIDIA Дженсен Хуанг заявил, что Великобритания будет получать ускоренные вычислительные ресурсы стоимостью $50 млн ежегодно. Их будут использовать для тестирования безопасности агентных систем искусственного интеллекта и разработки мер защиты для все более мощных моделей.

«Возможности и безопасность ИИ должны развиваться одновременно», — отметил Хуанг.

По его словам, Великобритания превращает научное лидерство в практические решения, а научный прогресс — в будущее, которое будет приносить пользу людям.

Внимание к безопасности ИИ усилилось после сообщений разработчиков, в частности Anthropic и OpenAI, о случаях неконтролируемого или нежелательного поведения ИИ-агентов. Некоторые представители отрасли также предупреждают, что эта технология может представлять экзистенциальную угрозу для человечества.

Британский министр по вопросам ИИ Канишка Нараян заявил, что вклад NVIDIA поможет обеспечить разработку безопасного и надежного искусственного интеллекта, который будет служить интересам людей.

Вычислительные ресурсы NVIDIA поддержат несколько направлений исследований в Великобритании. Среди них — проект BOLD под руководством Оксфордского университета, который разрабатывает подходы к обучению, адаптации и работе систем ИИ совместно с людьми.

Также финансирование охватит исследования безопасности робототехники в Имперском колледже Лондона и программы Университетского колледжа Лондона (UCL).

Напомним, ранее NVIDIA представила платформу для контроля ИИ-агентов.

Сообщение NVIDIA предоставит Великобритании $250 млн на исследования безопасности ИИ появились сначала на INCRYPTED.