Серверы с крупными языковыми моделями ИИ могут раскрывать конфиденциальную информацию в интернете

12 Марта 2025

Согласно исследованию, проведённому компанией Legit, которая специализируется на кибербезопасности, сотни серверов с открытыми большими языковыми моделями и десятки с векторными базами данных способны непреднамеренно передавать в открытое пространство информацию с высокой степенью секретности.

В ходе исследования Нафтали Дойч из Legit исследовал уязвимости в двух категориях ИИ-сервисов: векторных баз данных и приложений, созданных на основе открытой программы Flowise.

Обнаруженные данные включали личные и корпоративные сведения, раскрываемые организациями, использующими генеративный ИИ.

Flowise, открытая платформа для создания приложений, таких как чат-боты и инструменты для кодирования, сталкивается с проблемами безопасности, такими как уязвимость, позволяющая обойти аутентификацию.

Эксперт Дойч смог компрометировать 438 серверов Flowise и получить доступ к токенам API GitHub, паролям и другим ключам. Он также обнаружил около 30 незащищённых серверов с векторными базами данных, содержащими конфиденциальную информацию.

Для минимизации таких рисков Дойч рекомендует ограничивать доступ к ИИ-сервисам и улучшать меры защиты данных.

https://t.me/mariaanhela

Распространитель информпродукта:
Межгосударственный обшественно-политический журнал
экспертных расследований "Мировое Сообщество" (18+),
зарегистрированный Роскомнадзором,
свидетельство: серия Эл N ФС77-84826 от 28.03.2023 г.

Если Вы желаете оказать нашему изданию посильную материальную помощь, нажмите кнопку «Поддержать журнал», которую Вы увидите ниже, пожертвовав сумму, которую Вы посчитаете нужным. Благодарим заранее!

Поддержать журнал

ДЛЯ РАСПРОСТРАНЕНИЯ ПУБЛИКАЦИИ ПО СОЦИАЛЬНЫМ СЕТЯМ, ЖМИТЕ НА ЭТИ ЗНАЧКИ