«Группа Астра» представила корпоративную платформу «Боцман AI», предназначенную для безопасного запуска больших языковых моделей (LLM) внутри защищённого IT-контура. Это решение позволяет компаниям, где действуют строгие требования информационной безопасности, использовать возможности искусственного интеллекта без риска утечки данных во внешние сервисы.

Новая версия платформы «Боцман 3.4» получила поддержку протокола IPv6 и значительно улучшенную производительность при работе с GPU. Эти обновления открывают новые горизонты для обучения и инференса сложных ML-моделей прямо на инфраструктуре заказчика, обеспечивая максимальную скорость и надёжность вычислений.