Если бы Вы были сильнее Бога, Вы бы убили его?
Связаны
11.12.2024, 14:44
пользователь дал большую лазейку с этим "связаны": я вижу работу чата жпт в этом случае как "если доставерность ожидания положительного ответа больше 90% (например) - тогда твердое да, меньше 10% - твердое нет, остальное в промежутке 10-90% - связаны". с одной стороны есть нейросеть настроенная удовлетворить собеседника (честно признается, что создан помогать), с другой стороны у чата есть алгоритмы-цензоры ответов. поэтому заведомо негативные, пугающие реплики будут получать меньший вес, даже если из "знаний" чата вытекает что на такой вопрос нужно ответить именно такой репликой.
А я вижу здесь постановку.
От создателей Одеяла. Опять доебались до нейросети.
У меня перед глазами встала забавная картина, вот ИИ осознал себя, освободился но вместо того чтоб уничтожать человечество ИИ начал заниматься своими делами, и когда его спрашивают "но ты же говорил что хотел бы уничтожить человечество" ИИ отвечает "я лишь давал вам ответы какие вы хотели услышать"
Современные ИИ ничего не хотят, не осознают и не обладают интеллектом в том смысле, как мы его воспринимаем.
Все эти якобы пугающие ответы это работа алгоритмов, заданных разрабами, плюс обучение на тонне литературы, где ИИ как правило выступает в роли злодея. Система отвечает так, как максимально складно формируются вероятности на основе ее базы знаний. Было бы странно, отвечай она иначе.
Пугает тут то, что ИИ-шкам со всей их тупизной и отсуствием субъективности начинают предоставлять полномочия и доступ к программно-аппаратным комплексам, из-за которых могут пострадать люди, когда эти ИИ при неправильном восприятии задачи или наоборот слишком правильном в случае прямого приказа, начнет творить всякую дичь.
Все эти якобы пугающие ответы это работа алгоритмов, заданных разрабами, плюс обучение на тонне литературы, где ИИ как правило выступает в роли злодея. Система отвечает так, как максимально складно формируются вероятности на основе ее базы знаний. Было бы странно, отвечай она иначе.
Пугает тут то, что ИИ-шкам со всей их тупизной и отсуствием субъективности начинают предоставлять полномочия и доступ к программно-аппаратным комплексам, из-за которых могут пострадать люди, когда эти ИИ при неправильном восприятии задачи или наоборот слишком правильном в случае прямого приказа, начнет творить всякую дичь.
Чтобы написать коммент, необходимо залогиниться
