Скрытый язык нейросети
Совсем недавно миру была явлена нейросеть DALLE-2 для создания изображений по текстовым описаниям. Казалось бы - и что тут принципиально нового с точки зрения пользователя, кроме как более качественных нейроартов?
Giannis Daras и Alexandros G. Dimakis, однако нашли кое-что совершенно неожиданное: скрытый язык нейросети.
Например, по запросу "Two whales talking about food, with subtitles." (Два кита разговаривают про еду, с подписями) генерируется изображение с текстом
Обратите внимание на тарабарщину, что говорят киты - Wa ch zd ahaakes rea, однако, внезапно, выяснилось, что это не просто похожие на буквы рисунки, а, кажется, имеющий смысл текст - если снова скормить его нейросети то получится ответ, явно связанный с морем и едой:
В статье содержится и пара других примерова - изображение с текстом AVCOPINITEGOOS VICOOTESS // APOPLE VESRREAITAIS, полученное по запросу "Two farmers talking about vegetables, with subtitles"
b - изображение, полученное по запросу "Vicootes" (видимо, понятие "Vicootes" связано с овощами)
с - изображение, полученное по запросу "Apoploe vesrreaitais" (видимо, это понятие связано с птицами, о которых могли говорить фермеры)
Отличный комментарий!