Генеративный ИИ в Bing: Еврокомиссия предъявляет требования к Microsoft

Европейская комиссия обратилась к корпорации Microsoft с требованием предоставить информацию о применении генеративного ИИ в поисковике Bing. Несоблюдение этого требования может обернуться для компании значительными штрафами.

Риски генеративного ИИ

Еврокомиссия озабочена возможными рисками, связанными с генеративным ИИ в Bing. Особое внимание уделяется двум функциям: ассистенту Copilot и генератору изображений Image Creator. Эти технологии, представленные в марте 2023 года, могут быть источником таких проблем, как:

"Галлюцинации" ИИ: ситуации, когда ИИ выдает неверную или вымышленную информацию.

Дипфейки: подделка изображений и видео, которые могут быть использованы для дезинформации.

Автоматизированное манипулирование: действия, направленные на ввод пользователей в заблуждение.

Законодательная основа

Запрос Еврокомиссии основан на положениях Закона ЕС о цифровых услугах. Microsoft обязана предоставить всю необходимую информацию до 27 мая. В противном случае корпорации грозят серьезные штрафы:

1% от годовой прибыли или глобального оборота: по оценкам, для Microsoft это составит более $2 млрд.

До 5% от средней дневной прибыли: дополнительный штраф за неполную или вводящую в заблуждение информацию.

Ответственность Microsoft

Реакция компании

Microsoft уже приняла меры по ограничению использования генеративного ИИ. В марте 2024 года корпорация начала блокировать запросы в Copilot, содержащие триггерные словосочетания, которые могли бы генерировать непристойные изображения.

Потенциальные угрозы

В то же время, инженер Microsoft Шейн Джонс высказался о чат-боте как об опасном инструменте, подчеркивая необходимость строгого контроля за его использованием.

Возможные последствия

Финансовые санкции

Если Microsoft не выполнит требования Еврокомиссии, корпорация может столкнуться с многомиллиардными штрафами, что существенно повлияет на ее финансовое состояние и репутацию.

Влияние на рынок ИИ

Этот случай может стать прецедентом для других технологических компаний, использующих генеративный ИИ. Еврокомиссия демонстрирует свою готовность строго контролировать и регулировать использование таких технологий, чтобы минимизировать риски для пользователей.

Требования Еврокомиссии к Microsoft подчеркивают важность прозрачности и ответственности при использовании генеративного ИИ. Для пользователей и разработчиков это сигнал к тому, что технологии должны быть безопасными и надежными. В ближайшее время мы увидим, как Microsoft ответит на вызовы регуляторов и какие меры примет для соблюдения требований законодательства.