Скрытый язык нейросети
Совсем недавно миру была явлена нейросеть DALLE-2 для создания изображений по текстовым описаниям. Казалось бы - и что тут принципиально нового с точки зрения пользователя, кроме как более качественных нейроартов?
Giannis Daras и Alexandros G. Dimakis, однако нашли кое-что совершенно неожиданное: скрытый язык нейросети.
Например, по запросу "Two whales talking about food, with subtitles." (Два кита разговаривают про еду, с подписями) генерируется изображение с текстом


b - изображение, полученное по запросу "Vicootes" (видимо, понятие "Vicootes" связано с овощами)
с - изображение, полученное по запросу "Apoploe vesrreaitais" (видимо, это понятие связано с птицами, о которых могли говорить фермеры)
Отличный комментарий!