Проблемы в работе ChatGPT и возможные риски использования ИИ

Сервисы OpenAI, включая популярные инструменты ChatGPT и Sora, второй раз за месяц столкнулись с масштабными сбоями. Проблемы не только нарушают работу пользователей, но и вызывают вопросы о надежности ИИ и его способности безопасно взаимодействовать с окружающим миром.

Декабрьские сбои

26 декабря 2024 года ChatGPT, Sora и API OpenAI перестали работать более чем на четыре часа. Компания объяснила проблему сбоем у стороннего провайдера, но аналогичная ситуация произошла ранее — 11 декабря. Тогда системы также были недоступны несколько часов.

Хотя на момент написания все сервисы функционируют стабильно, повторы подобных сбоев могут подорвать доверие пользователей.

Кто не пострадал?

Примечательно, что популярные сервисы, такие как Perplexity и Apple Intelligence, которые используют API OpenAI, не были затронуты проблемой. Это может говорить о гибкости интеграций, но ставит вопрос о внутренних проблемах платформы.

Уязвимости ChatGPT Search

Наряду с техническими сбоями, ИИ-решения OpenAI сталкиваются с критикой за потенциально небезопасное поведение. Новая поисковая система ChatGPT Search, предназначенная для ускорения поиска в интернете, оказалась под прицелом издания The Guardian.

Как поисковик может вводить в заблуждение?

Поисковая система была задумана для предоставления краткого и удобного резюме отзывов, что особенно полезно на сайтах интернет-магазинов. Однако The Guardian обнаружила, что ее можно «обмануть» следующими методами:

Скрытый текст: продавцы могут добавлять на свои сайты скрытые данные, которые заставляют ChatGPT Search показывать только положительные отзывы, игнорируя негативные.

Показ вредоносного кода: аналогичный подход может быть использован для внедрения вредоносных программ.

Реальные риски для пользователей

Эти уязвимости — не просто гипотетическая угроза. Например, в ноябре 2024 года криптопользователь под ником r_ocky.eth потерял $2500, когда ChatGPT рекомендовал мошеннический сайт. Проблема возникла во время написания бота для платформы мем-токенов Pump.fun на Solana.

Почему это важно?

Популярность ChatGPT и других продуктов OpenAI базируется на доверии пользователей. Когда инструменты выходят из строя или становятся причиной финансовых потерь, это подрывает их репутацию.

Что делать пользователям?

Доверяй, но проверяй. Никогда не полагайтесь исключительно на рекомендации ИИ, особенно в вопросах финансов или безопасности.

Будьте внимательны к новым продуктам. Прежде чем использовать инструмент вроде ChatGPT Search, изучите возможные уязвимости.

Сообщайте о проблемах. Чем больше информации OpenAI получает от пользователей, тем быстрее она сможет реагировать.

Декабрь стал сложным месяцем для OpenAI: технические сбои, выявленные уязвимости и инциденты с потерей средств пользователей вызывают вопросы о будущем компании.

OpenAI предстоит усилить контроль за безопасностью своих продуктов, чтобы сохранить доверие аудитории. Для пользователей же это сигнал быть более осмотрительными и критически оценивать возможности и ограничения технологий искусственного интеллекта.