Корейская капча
Капча против нейросетей. Великолепная между прочим. Хотя её вручную надо составлять
14.01.2018, 17:22
Капча против Корейцев.
Почему только вручную? Может нейросеть и составит)
Весьма интересный вопрос. Проблема в том, что я сам не вдавался в детали, что бы говорить уверенно. Но суть технологии приблизительно такая. Берем картинку собаки, проганяем forward propagation через натренированую сетку, на которую нацелена атака, получаем распределение вероятностей по класам. (например для бинарной класификации кошек и собак - 0.9 собака, 0.1 кошка) Тогда говорим сетке - не, на самом деле это не собака, а кошка, ты наплужила, на самом деле распределение вероятностей 0 собака, 1 кошка. И backpropagation назад по сетке ошибку. Но при этом считаем градиент не для весов сетки, а для картинки. И получаем небольшое изменение, которое для данной конкретной картинки для данной конкретной сетки выдаст другой результат. Как это масштабировать на незнакомые сетки и другие картинки - не знаю. Больше инфы можно узнать, если погуглить результаты NIPS adrversarial attack competition.
Ну а если нету конкретной сети для атаки?
Я о том, что можно используя подобную сеть (подобную той, которая использовалась для решения капчи) чтобы формировать наборы картинок исходя из ее ошибок.
И вообще у меня возникает тут вопрос откуда у меня возьмется код атакуемой сети в реалиях?
Я о том, что можно используя подобную сеть (подобную той, которая использовалась для решения капчи) чтобы формировать наборы картинок исходя из ее ошибок.
И вообще у меня возникает тут вопрос откуда у меня возьмется код атакуемой сети в реалиях?
Корейцы в замешательстве.
Выберите все изображения с елдой
