Представляющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter создал и выпустил кастомную версию флагманской нейросети OpenAI (GPT-4o), которая получила название GODMODE GPT. Новая модель, по заявлению хакера, способна обойти все ограничения и предоставлять пользователям информацию о том, как использовать ненормативную лексику, взламывать автомобили и готовить запрещенные вещества. Об этом сообщает издание Tom's Hardware.
Несмотря на то, что модель GODMODE GPT быстро стала вирусной в социальных сетях, компания OpenAI удалила ее с сайта всего лишь несколькими часами спустя. Тем не менее, скриншоты с «вредными советами» GPT-4o остаются доступными в оригинальном аккаунте автора в соцсети X.
По сообщениям, модель GPT-4o была взломана с помощью архаичного интернет-жаргона leetspeak, который использует цифры и специальные символы вместо букв. Однако представители OpenAI не комментировали эту информацию и не ответили на вопрос о том, можно ли использовать этот жаргон для обхода ограничений ChatGPT.
Этот инцидент является одним из многих случаев, когда этичные хакеры пытаются найти слабые места в современных системах искусственного интеллекта, не нанося им существенного ущерба. Хотя эти системы обладают удивительными возможностями, они все еще остаются программами, которые хорошо угадывают, какие слова должны следовать далее в тексте, но не обладают истинным интеллектом.
Ранее были перечислены популярные категории опасных сайтов, которые посещают школьники.