Российские компании разрабатывают «обвязку» для контроля ИИ-моделей

Крупнейшие российские технологические компании переключили внимание на разработку систем контроля и инфраструктуры вокруг языковых моделей — так называемого harness или «обвязки», сообщили «Известиям» представители отрасли.

Эти системы позволяют ИИ работать с памятью и контекстом, запускать код и выполнять сложные сценарии, а также контролировать качество и безопасность. В «Сбере», «Яндексе», MWS AI и холдинге Т1 уже разрабатывают или внедрили собственные решения в этой области.

«Мы развиваем собственные технологии "умного" роутинга, которые позволяют выбирать оптимальный инструмент для конкретного запроса, а также разрабатываем собственные harness-решения для пользовательских и корпоративных продуктов», — отметил CEO «Алисы» и «умных» устройств Валерий Стромов.

В «Яндексе» пояснили, что харнесс-развитие связано с появлением моделей, способных выполнять реальные действия. В MWS AI разрабатывают решение для переключения между моделями без изменения логики и контроля вычислительных ресурсов. «Сбер» внедрил инфраструктуру в GigaАгент, GigaCode и GigaCowork. В Т1 отмечают, что за год число запросов бизнеса на механизмы контроля ИИ выросло втрое, особенно в банках, промышленности, госсекторе и ритейле.

Ранее иркутские предприниматели обсудили внедрение нейросетей в реальный бизнес. Все они сходятся в одном – вокруг ИИ надо построить систему тотального недоверия.