Как не запутаться в нейросети и вылечить искусственный интеллект от галлюцинаций

Нейросети используют для бизнеса уже более 70% российских компаний. Как и где технологии искусственного интеллекта применяются сегодня, обсудили участники круглого стола, организованного «Фонтанкой.ру».

Директор по развитию бизнеса компании «Формат кода» Александр Жуков принял участие в дискуссии. Эксперт поделился своим мнением о том, в каких сферах сейчас наиболее активно применяется искусственный интеллект и как нейросети влияют на бизнес и городскую среду, и порассуждал о перспективах развития искусственного интеллекта.

— Сферы, где находит применение искусственный интеллект, многочисленны, и влияние на нашу жизнь все сильнее. — ИИ активно применяется в тех областях, где нужно решать задачи, связанные с визуальным контролем и распознаванием, рассказывает Александр.

— Это, в первую очередь, традиционные задачи автоматического вождения автомобилей, пилотирования БПЛА, системы помощи медицинским работникам, различные ассистенты для видеонаблюдения, отмечающие необычные объекты или явления в кадре, системы безопасности.

— Не обязательно компьютерное зрение работает в видимом диапазоне — это может быть рентген, ИК или радио, — уточняет эксперт. — Идет развитие визуальных систем в сторону распознавания не только объектов, но и поведения или событий, развивающихся в динамике. Например, системы учатся отличать выкатывание автомобиля с дороги под контролем водителя от аварийного или спокойный перекур друзей в темном переулке от напряженной дискуссии с криминальным развитием — это задачи, связанные с «пониманием» и генерацией текстов и голосов.

Также появляются проекты ИИ-ассистентов (в большинстве случаев — чатботов), которые могут решать задачи поиска или предоставления информации на базе очень большого количества источников. Кроме того, ИИ позволяет людям, которые заняты рутинной работой, связанной с информацией, использовать собственный мозг и креативность по назначению — придумывать что-то новое, а не растрачивать его на различные «дежурства», «оформления», кручение руля и тому подобные задачи.

Самое интересное в будущем ИИ, по мнениюЖукова, сейчас лежит в двух сферах. Первая — это мультимодальность и AGI. Это решения, которые позволяют получать и обрабатывать информацию из различных источников. Такая система сможет оценивать текстовое описание, сравнивая его с реальными фактами. В этом смысле AGI должен стать более объективным, чем человек, который в силу когнитивных ограничений вынужден базироваться на доверии каким-то личностям или группам, формируя базу для пропаганды, мифических верований и долгожительства ложных теорий. Однако остается вопрос, к чему приведет такая объективность ИИ на фоне отсутствия эмоций и эмпатии.

— Более широкое применение генеративных моделей есть в реальном бизнесе, —рассказывает Александр. — В большой степени проблема лежит в избавлении от галлюцинаций искусственного интеллекта. Они сейчас мешают верить фактическим выводам моделей, потому что не всегда понятно, где сеть базируется на известных ей текстах (и тут еще встает вопрос доверия самим текстам), а где она «придумывает» факты и нарративы. Чтобы избежать этой проблематики, появились так называемые RAG-приложения, в которых языковые модели служат не источником знаний, а только «говорящей головой», которую снабжают фактами. К примеру, мы сейчас акцентируемся именно в этой области и видим большие перспективы таких решений в импортозамещении западных финансовых и аналитических систем.

Материал целиком читайте на городском портале «Фонтанка.ру».