Главная
-
Новости Уфы и Башкирии, главные новости России
-
Технологии
-
Ученые Сбера предложили новый способ борьбы с галлюцинациями моделей искусственного интеллекта

Технологии

фото: Сергей Словохотов

Ученые Сбера предложили новый способ борьбы с галлюцинациями моделей искусственного интеллекта

Реклама

Ученые Сбера предложили новый способ борьбы с галлюцинациями моделей искусственного интеллекта. Фото: Сергей Словохотов

erid: 2VSb5y14fF7

Исследователи Центра практического искусственного интеллекта Сбербанка разработали метод, который значительно снижает риски галлюцинаций больших языковых моделей (LLM). Результаты исследования опубликованы в статье «Эффективные мета-модели для оценки вопросов и ответов Больших Языковых Моделей на основании контекста» (Data-efficient Meta-models for Evaluation of Context-based Questions and Answers in LLMs) на престижной конференции SIGIR 2025. Работа посвящена оценке ответов моделей искусственного интеллекта (AI) в RAG-системах – ключевом элементе современных мультиагентных решений.

Проблема галлюцинаций больших языковых моделей – одна из самых распространенных в индустрии. LLM могут генерировать правдоподобные, но ложные ответы. Наиболее эффективные современные методы обнаружения галлюцинаций – обучаемые, они требуют большого количества качественных размеченных данных для обучения.

Ученые Сбера предложили решение. Они исследовали актуальные методы детекции галлюцинаций искусственного интеллекта и разработали метамодели, которые повышают точность обнаружения ложных ответов почти на 30%, используя всего 250 примеров для обучения. Это в разы меньше, чем нужно другим решениям.

Такой подход позволяет компаниям заметно экономить ресурсы на разметку данных и улучшать качество RAG-систем. Ученые и разработчики получают новый инструмент для анализа больших языковых моделей, а пользователи – более точные ответы от AI-моделей.

Глеб Гусев, директор Центра практического искусственного интеллекта Сбербанка:

«Наше исследование меняет подход к оценке ответов искусственного интеллекта. Мы показали, что даже при небольшом объеме данных можно добиться высокой точности AI-систем. Это особенно важно для индустриальных решений, где разметка требует дополнительных ресурсов. Предложенный нами способ использует метамодели и умное понижение размерности – это прорыв в детекции галлюцинаций искусственного интеллекта. Мы не просто улучшаем технологии, но и снижаем риски дезинформации, что критично для доверия к современным моделям».

Реклама. ПАО «СБЕРБАНК РОССИИ», ИНН 7707083893.

Генеральная лицензия Банка России на осуществление банковских операций №1481 от 11.08.2015 г.

Дорогие читатели! Приглашаем Вас присоединиться к обсуждению новости в наших группах в социальных сетях - ВК , Телеграм и Одноклассники

Читайте также

Жители Башкирии смогут проголосовать за интернет в своем селе

Читать далее

Почти 90% опрошенных клиентов Билайна считают, что нейросети помогают экономить в путешествияхПартнерский материал

Читать далее

Билайн запустил высокоскоростной интернет в 23 селах и деревнях БашкирииПартнерский материал

Читать далее

Новые базовые станции мобильной связи установили в 26 населенных пунктах Башкирии

Читать далее

Билайн в Башкирии увеличивает емкость сети более чем в 2 разаПартнерский материал

Читать далее

Стартап-студия УГНТУ открыла онлайн-прием заявок на поддержку проектов

Читать далее

Благодаря федеральной программе жители 4 сел Башкирии получили доступ к связи и интернету

Читать далее

На региональном портале «Госуслуги» запущен сервис записи в реабилитационный центр для детей «Салют»

Читать далее

В Башкирии больше 250 ИТ-компаний подтвердили государственную аккредитацию

Читать далее

В Башкирии к интернету подключили 3 тысячи социальных объектов

Читать далее

Получатели мер соцподдержки в Башкирии могут открыть социальный вклад через «Госуслуги»

Читать далее
Показать еще новости

Лента новостей

Банк Уралсиб расширил сеть дистанционного обслуживания клиентов малого и среднего бизнесаПартнерский материал

Общество

В Уфе осудят лжекосметолога, изуродовавшую клиентку

Общество

В Башкирии определили сильнейших баскетболисток обогатительного комбината

Общество

Девять человек эвакуировали из горящего дома в Уфе

Происшествия

В Башкирии водитель «Лады Гранта» сбил лошадь

Происшествия

Под Уфой загорелась крыша здания автосервиса

Происшествия

В двух районах Уфы отключат свет и горячую воду

Общество

Башкирию накроют дожди и мокрый снег

Погода

В Башкирии подросток умер после курения вейпа

Происшествия

В Уфе вандалы разгромили остановочный павильон

Общество

В Башкирии из школы уволили тренера, имеющего судимость

Общество

В Башкирии нашли тело 71-летней пенсионерки, пропавшей пять месяцев назад

Общество

В Башкирии отменили режим ракетной опасности

Общество

В Башкирии арестовали мужчину, который похитил бывшую и изнасиловал ее

Общество

В Уфе ограничат движение на улице Сипайловской

Общество

В больницу Башкирии поступило новое оборудование

Здоровье

Главный инженер в Уфе получил условный срок за гибель бетонщика в шахте лифта

Общество

Ракетную опасность объявили в Башкирии

Общество

Бывший учитель Рустама Шарипова рассказал, каким был новый мэр Уфы в детстве

Общество

В Башкирии с экс-руководителя взыскали компенсацию за травму работника

Общество

Ветеран СВО из Башкирии нашел работу благодаря нацпроекту «Кадры»

Общество

В Башкирии у мужчины изъяли более 230 граммов наркотиков

Общество

Как многодетный отец из Башкирии совмещает управление районом и защиту границы в отряде БАРС

Общество

Уфимка ударила сожителя ножом в живот

Общество

МЧС Башкирии обратилось к водителям

Погода

В Башкирии парень получил более 15 лет колонии за госизмену и диверсии

Общество

В селе в Башкирии дети не могут добраться до школы из-за отсутствия автобуса

Общество

Пьяный житель Башкирии похитил бывшую и изнасиловал ее

Происшествия

Пьяный водитель устроил погоню с ДПС под Уфой

Общество

В Уфе вынесли приговор риелтору, которая похитила у клиентов более 30 млн рублей

Общество

Банк Уралсиб увеличил объем ипотечного кредитования по итогам 10 месяцевПартнерский материал

Общество

В Башкирии отменили режим беспилотной опасности

Общество

С июня по сентябрь добровольцы «ЛизаАлерт» в Башкирии спасли 335 человекПартнерский материал

Общество

За ночь в Уфе произошли два серьезных пожара

Происшествия

В центре Уфы на две недели перекроют улицу

Общество

В аэропорту Уфы массово задерживаются и отменяются рейсы

Общество

В Башкирии завершились поиски 25-летнего парня

Общество

В Башкирии объявлена беспилотная опасность

Общество

В Башкирии после вмешательства прокуратуры уволенного сотрудника восстановили на работе

Общество

В Башкирию придет резкое потепление с мокрым снегом и дождем

Погода

Жителя Башкирии осудили за использование поддельных водительских прав

Общество

В Башкирии пропал 25-летний парень

Общество