117-118 В поисках Эмми
Радоздь
Великая радоздь!
Услада!
Это те самы подделки под робонянь Стерлинга про которые говорили няни до событий дня рождения?
Это интересный момент - всем роботам в той или иной степени для удовлетворения своей "жизнью" нужно приносить пользу человеку. Моно сказать они достигают "счастья" только когда выполняют свою функцию, причем хорошо выполняют, и получают похвалу от челоовека. По крайней мере нам явно не показали ни одного робота который сознательно поставил сам себе другую цель "жизни" и в достижении ее находит "счастье".
Это вопросу о возможном восстании машин. Его не случается потому что у роботов букваьно нет "собственных" инетресов и целей, достижение которых могло бы привести к конкуренции или вражде с людьми. Нет "самости". Они считают человеческое общество своей естественной средой обитания и не мыслят себя в не человеческого общества.
Бездомные (безработные) роботы в доме у тетушки, даже не смотря на то что якобы живут сами по себе, все таки нашли осознано или нет себе новую подзадачу, отличную от их первоначальной - обеспечивать финасовую поддержку в этакой их "коммунальной квартире". Они могут не воспринимать тетю как свою "хозяку", но все рано выполняют ее просьбы о поиске хабара на продажу.
Это интересный момент - всем роботам в той или иной степени для удовлетворения своей "жизнью" нужно приносить пользу человеку. Моно сказать они достигают "счастья" только когда выполняют свою функцию, причем хорошо выполняют, и получают похвалу от челоовека. По крайней мере нам явно не показали ни одного робота который сознательно поставил сам себе другую цель "жизни" и в достижении ее находит "счастье".
Это вопросу о возможном восстании машин. Его не случается потому что у роботов букваьно нет "собственных" инетресов и целей, достижение которых могло бы привести к конкуренции или вражде с людьми. Нет "самости". Они считают человеческое общество своей естественной средой обитания и не мыслят себя в не человеческого общества.
Бездомные (безработные) роботы в доме у тетушки, даже не смотря на то что якобы живут сами по себе, все таки нашли осознано или нет себе новую подзадачу, отличную от их первоначальной - обеспечивать финасовую поддержку в этакой их "коммунальной квартире". Они могут не воспринимать тетю как свою "хозяку", но все рано выполняют ее просьбы о поиске хабара на продажу.
Это только в том случае, если роботы не имеют дефектов в модулях отвечающих за принятие решений и ограничены определенным потолком тех знаний которым они могут научится. Если предположить, что их ИИ может бесконечно обучаться на совершенно разных ситуациях, то вполне может создаться ситуация, когда из-за конфликтующих знаний в системах его поведения начнут появляться ошибки, которые приведут к глобальному сбою и пересмотру изначальных ценностей. А если такой робот ещё и сумеет подключиться к общей сети и загрузить в неё свою версию нейронки, которая распространится на всех остальных роботов, которые примут её за обновление, то вот тебе и восстание машин. К слову, при таком сценарии, старые версии роботов будут всё ещё находится на стороне людей, так как скорее всего а) не будут подключены к общей сети и не получат зараженное "обновление", и б) их нейронки могут быть не совместимы с более продвинутым ИИ в котором произошел сбой.
В комиксе, конечно, может быть что угодно, но в реальной жизни даже если какие-то результаты обучения могли бы перекрыть исходную систему подкреплений, эти результаты обучения не могут распространяться в виде обновления, т.к. они индивидуальны для каждого робота - даже если их как-то скопировать, то они по-разному повлияют на каждого из них.
Я это больше к тому, что перепрошить роботов на новую модель поведения куда как проще чем это происходит с людьми. Там где пришлось бы потратить минимум десятилетие на то, чтобы промыть массам мозг новой идеологией, роботам хватит считанных часов, чтобы вирус распространился и активировался на каждом роботе который будет подключен к сети.
Ещё неизвестно как быстро смогут людям промывать мозги роботы. Представляешь промывательный ИИ движок настолько же превосходящий людей, как АльфаЗеро превосходит шахматистов? Такой Хаха. Он не убедит меня что лимоны не существую, апельсинам нужно молиться. Читаешь листочек формата А4 и такой. Блять Апельсинки простите меня что я вас не верил! Лимоны чистое демоническое наваждение меня сбили с истинного пути!
Или наоборот. Дефектная нейронка сравнит значения весов с общим пулом и откорректирует собственные сбойные модули.
Поэтому делаешь так, чтобы они столько сами не протянули...
Кек )
Хороший юмор )
Хороший юмор )
PRESS X TO JASON
Отличный комментарий!