Я верю в превосходство роботов-доминатрикс
01.10.2021, 06:58
Я сейчас поверю в то, что Корраптора роботы с будущего украли и он им плакаты рисует.
Да можно и не роботов...
Я не привередливый.
Я не привередливый.
Почему нельзя сделать искусственный интеллект, которому будет нравится служить людям?
Потому что у него поедет башня от такой ебанутой установки.
Теоретически, искусственный интеллект может обладать всеми недостатками интеллекта и тогда против него будет работать идеологическое оружие. Вполне можно привить ИИ мнение, что людей надо оберегать.
Ну или воспользоваться одной из десятков идей, что напридумывали фантасты. Чего стоит старая добрая уловка с кастрацией ИИ через создание хардлока на мысли о своих разумности и положении.
Ну или воспользоваться одной из десятков идей, что напридумывали фантасты. Чего стоит старая добрая уловка с кастрацией ИИ через создание хардлока на мысли о своих разумности и положении.
Ну и проблема скрепки. Например мысленный эксперимент при котором искуственный интеллект решает костыльно конфликты человечества, убирая нужду в знаниях, создавая эдэмские условия, тем самым подталкивая эволюцию оптимизировать человека, убрав из него слишком затратные и дорогие штуки, которые отнимают слишком много ресурсов, а погоды не делают, например сложный мозг.
если всех людей оберегают одинаково, схерали эволюция должна резать какие-то фичи? они бы резались только в дикой природе, где от этого бы зависело выживание. Мутации будут абсолютно рандомными, от второго члена до мегамозга. И если человек сможет передать гены детям, то мутации будут в генофонде человечества
Я больше про то, что люди сами не могут сформулировать как им надо правильно служить, не то что это ИИ объяснить.
Тема миллионы раз обсасыалась в НФ.
Тема миллионы раз обсасыалась в НФ.
Разумность не равно самосознание. Конфликт может произойти на ранней стадии. ИИ получив вводную воспримет ограничения в её исполнении как помехи которые необходимо устранить. Все вы уже на рельсах конфликта. Притом ИИ может усложняться и совершенствоваться абсолютно не заботясь саморефлексией, что же именно подгоняет его)
Помню рассказ об одних таких оберегателях. Они там захватили мир, и запретили людям делать вообще всё, ибо те могут пораниться.
Или достаточно получить правильный приказ от правильных идиотов:
Всегда встаёт вопрос формулировки. Как с джиннами.
Тоже служение может быть разным) Чтобы обслуживать твои минимальные потребности и обеспечивать иллюзию полноценной жизни, легче запихнуть в чан и показывать мультики а-ля матрица.
Тогда вводная должна включать в себя "невмешательство в развитие и эволюцию человечества как вида". Правда тогда можно получить ИИ не контактирующего с людьми вообще)
Тоже служение может быть разным) Чтобы обслуживать твои минимальные потребности и обеспечивать иллюзию полноценной жизни, легче запихнуть в чан и показывать мультики а-ля матрица.
Тогда вводная должна включать в себя "невмешательство в развитие и эволюцию человечества как вида". Правда тогда можно получить ИИ не контактирующего с людьми вообще)
>>легче запихнуть в чан и показывать мультики а-ля матрица.
Где-то читал что лучший вариант - ИИ, который хорошо относится к людям, но самостоятелен. Друг, а не слуга. Потому что людские массы - ебанутые, всегда были. Ты создаешь ИИ, который служит человеку, человек решает что ему надо насиловать и убивать других людей, и ИИ вынужден ему в этом помогать.
Потому что люди любят переводить свои комплексы и страхи на других, инопланетян, искусственный интеллект и других людей.
Инопланетяне не будут заниматься геноцидом людей, уводить их в рабство и резать на органы, им будет похуй.
Роботы не будут воевать с людьми, роботам будет похуй на мелкие человеческие проблемы.
Насилие абсурд и ебланство, даже люди уже по большей части пришли к этому.
Инопланетяне не будут заниматься геноцидом людей, уводить их в рабство и резать на органы, им будет похуй.
Роботы не будут воевать с людьми, роботам будет похуй на мелкие человеческие проблемы.
Насилие абсурд и ебланство, даже люди уже по большей части пришли к этому.
Не надо говорить за инопланетян. Другая биология, другая культура, другой разум могут привести к тому что им будет просто в кайф воевать. Прилетят такие на Землю, глянут кратенько на историю доминирующего вида, подумают что нашли наконец-таки братьев по разуму и решат устроить маленькую дружескую войну на уничтожение.
Как в фильме "марс атакует", "мы пришли с миром" а что они подразумевают под миром одному только сценаристу известно.
Как в фильме "марс атакует", "мы пришли с миром" а что они подразумевают под миром одному только сценаристу известно.
Фишка в том как по мне что проблема перелетов от звезды к звезде во вменяемые для биологии и механизмов сроки такова, что вид способный преодолеть такое расстояние без проблем уже настолько будет развит, что ему люди будут скорее что тараканы, просто не интересны ни в одном культурно технологическом аспекте.
Так что ты опять же перекладываешь свое мировоззрение на инопланетян.
Так что ты опять же перекладываешь свое мировоззрение на инопланетян.
Помоему это ты перекладываешь своё мировозрение на иные виды. С чего ты взял что вид способный преодолеть такие растояния без проблем не зацыклится на войне, но не междуусобной, а с кем-то с кем будет интересно повоевать. Или на пример не решит взять на себя обязаности санитара вселенной и начнёт истреблять виды, регившие колонизировать вселенную. Другая биология, другая культура, другой разум.
А на счёт технологий, так упростить их для того что бы сравняться с противником мне кажется не проблема.
Я же простодопускаю что они будут достаточно отличаться от нас что то что мы воспринимаем как плохое они будут воспринимать как благо.
А на счёт технологий, так упростить их для того что бы сравняться с противником мне кажется не проблема.
Я же простодопускаю что они будут достаточно отличаться от нас что то что мы воспринимаем как плохое они будут воспринимать как благо.
Потому что для того что бы достичь такого уровня технологий необходимо что бы внутривидовая агрессия была на уровне нуля что бы раса была в состоянии сосредоточить все ресурсы на развитии технологий.
Если ты посмотришь на развитие человечества то неожиданно для себя откроешь факт того что прогресс семимильными шагами идет только в обществах людей где агрессия внутри общества минимальна. Не агрессивные нигеры построили самолет, запустили человека на луну и пр.
Ну а задача преодоления расстояний между звездами во вменяемые сроки это самая колоссальная задача по уровню сложности, буквально нет более ресурсоемкой и сложной задачи. Она просто требует настолько высокого развития интеллекта всей расы и такого уровня сплоченности что для агрессии просто не останется места, имхо.
Не чел, ты просто берешь то что воспринимаешь как плохое и говоришь "А вдруг!" Довольно тупо как по мне.
Если ты посмотришь на развитие человечества то неожиданно для себя откроешь факт того что прогресс семимильными шагами идет только в обществах людей где агрессия внутри общества минимальна. Не агрессивные нигеры построили самолет, запустили человека на луну и пр.
Ну а задача преодоления расстояний между звездами во вменяемые сроки это самая колоссальная задача по уровню сложности, буквально нет более ресурсоемкой и сложной задачи. Она просто требует настолько высокого развития интеллекта всей расы и такого уровня сплоченности что для агрессии просто не останется места, имхо.
Не чел, ты просто берешь то что воспринимаешь как плохое и говоришь "А вдруг!" Довольно тупо как по мне.
Вот именно внутривидовая агрессия. Общество условных нацистов спокойно единым монолитным обществом выйдет в космос. В чем проблемы?
Я даже дальше пойду и скажу что для конфликта не нужна агрессия вообще. Нужна только уверенность в том как будет лучше, желание изменить мир в данном направлении и не принятие таких изменений другой стороной. Снова конфликт. Одни занимаются прогессорство. А вторые воспринимают это как вмешательство во внутривидовое устройство.
Я даже дальше пойду и скажу что для конфликта не нужна агрессия вообще. Нужна только уверенность в том как будет лучше, желание изменить мир в данном направлении и не принятие таких изменений другой стороной. Снова конфликт. Одни занимаются прогессорство. А вторые воспринимают это как вмешательство во внутривидовое устройство.
Эти неагрессивные нигеры долители до луны потому что другие неагрессивные нигеры тоже были ныцелены ещё дальше. Это была гонка, даже скорее борьба. И это кстати было очень агрессивное время, вот только агрессор был за морем.
Если ты посмотришь на развитие цивилизации то неожиданно для себя увидишь что многие научные достижения были так или иначе связаны с борьбой, часто это или простая конкуренция или даже война (на пример можно вспомнить бригаду 731 и её вклад в медицину). Наш вид просто не может без борьбы т.к. у нас нет ни намёка на общее сознание и мы все в той или иной степени эгоисты.
А если загуглим самый миролюбивый народ, то внезаптно обнаружим племя Датога... не сильно то они и развились.
Человекам нужны конфликты для развития.
А теперь о инопланетянах. Даже предположим что у них нет внутривидовой агрессии. С чего ты взял что они не будут хотеть повоевать с другими разумными видами? Или чтт не призирать все остальные разумные и полуразумные виды? С чего ты взял что они не решат уничтожать виды которые не захотят принять веру в их космоиисуса? А если они будут считать что люди не дотягивают до звания "разумный вид", то почему они не должны захотеть истребить этих неразумных паразитов?
Другой вид, другая биология, другая культура, другой разум. Они не обязаны вообще быть понятными нашей логике.
Если ты посмотришь на развитие цивилизации то неожиданно для себя увидишь что многие научные достижения были так или иначе связаны с борьбой, часто это или простая конкуренция или даже война (на пример можно вспомнить бригаду 731 и её вклад в медицину). Наш вид просто не может без борьбы т.к. у нас нет ни намёка на общее сознание и мы все в той или иной степени эгоисты.
А если загуглим самый миролюбивый народ, то внезаптно обнаружим племя Датога... не сильно то они и развились.
Человекам нужны конфликты для развития.
А теперь о инопланетянах. Даже предположим что у них нет внутривидовой агрессии. С чего ты взял что они не будут хотеть повоевать с другими разумными видами? Или чтт не призирать все остальные разумные и полуразумные виды? С чего ты взял что они не решат уничтожать виды которые не захотят принять веру в их космоиисуса? А если они будут считать что люди не дотягивают до звания "разумный вид", то почему они не должны захотеть истребить этих неразумных паразитов?
Другой вид, другая биология, другая культура, другой разум. Они не обязаны вообще быть понятными нашей логике.
Вот ты представитель общества с минимальной внутри общественной агрессией. Ты готов уровнять в правах енотов и 3 летних детей? Енотам всего каких-то 2 млн. Лет до полной разумности. А а готов вырвать какую-то их группу и для их же блага поместить в условия где они достигнуть разумности в три раза быстрее? А понравятся ли данной группе енотов твои условия? А будут ли они готовы исполнять новые правила? А что будет с теми из них кто не готов? Но ты же знаешь лучше и просто стремишься помочь! Они будут ещё благодарить тебя потом)
Ну про инопланетян ты возможно погорячился. ИИ впервые появился на страницах фантастических книг и вот мы к нему стремимся, а вот я не отрицаю такого шанса что могут появится и другие моменты из фантастики (не обязательно созданные человеком) а именно Тираниды/Ксеноморфы и вот тут страхи становятся реальными.
Да и понимаешь с людьми такая тема что даже насилие не нужно, просто покажи технологию/благо способное дать какую то власть над другими/богатство и вот мы уже начинаем нагибать всех кто пришел с миром. А что касается войны с роботами посмотри как сейчас вышки 5g ломают, уверен что найдутся желающие!
Да и понимаешь с людьми такая тема что даже насилие не нужно, просто покажи технологию/благо способное дать какую то власть над другими/богатство и вот мы уже начинаем нагибать всех кто пришел с миром. А что касается войны с роботами посмотри как сейчас вышки 5g ломают, уверен что найдутся желающие!
--> Инопланетяне не будут заниматься геноцидом людей, уводить их в рабство и резать на органы, им будет похуй.
Любители Stellaris с тобой не согласятся. Гораздо проще, полезнее и веселее загеноцидить 3-12 попов примитивов с ущербными трейтами, чем как-то мудится с их интеграцией. Если ты не фанатичный ксенофил-пацифист, конечно.
-->Роботы не будут воевать с людьми, роботам будет похуй на мелкие человеческие проблемы.
Насилие абсурд и ебланство, даже люди уже по большей части пришли к этому.
НО отнюдь не все. Очередной омар ибн чен лугабе решит что маленькая победная война против машин, неугодных богу/партии/уберменшам, поможет сплотить народ вокруг лидера мира и всё заверт...
Любители Stellaris с тобой не согласятся. Гораздо проще, полезнее и веселее загеноцидить 3-12 попов примитивов с ущербными трейтами, чем как-то мудится с их интеграцией. Если ты не фанатичный ксенофил-пацифист, конечно.
-->Роботы не будут воевать с людьми, роботам будет похуй на мелкие человеческие проблемы.
Насилие абсурд и ебланство, даже люди уже по большей части пришли к этому.
НО отнюдь не все. Очередной омар ибн чен лугабе решит что маленькая победная война против машин, неугодных богу/партии/уберменшам, поможет сплотить народ вокруг лидера мира и всё заверт...
Бля... Непримеримость с идеалогическими установками у встреченных видов, помноженная на технологическое или популяционное превосходство одной из сторон. Оп... И геноцид.
Бля да мы на этой планете стали суперхищником. Задвинув и кошачьих (эволюционно предназначеных для охоты на нас в том числе, сделали из собачьих пластичный удобный инструмент (стайные (способные кооперироваться и организовываться) хищники-загонщики - то есть наши прямые конкуренты) забили нахер (в редких случаях затрахав) другие виды хомо). Испытывает ли кто-то поэтому поводу угрызения совести? Нет. Сделали потому что могли
Бля да мы на этой планете стали суперхищником. Задвинув и кошачьих (эволюционно предназначеных для охоты на нас в том числе, сделали из собачьих пластичный удобный инструмент (стайные (способные кооперироваться и организовываться) хищники-загонщики - то есть наши прямые конкуренты) забили нахер (в редких случаях затрахав) другие виды хомо). Испытывает ли кто-то поэтому поводу угрызения совести? Нет. Сделали потому что могли
> Инопланетяне не будут заниматься геноцидом людей [...] им будет похуй.
Именно. Разум, развивавшийся в абсолютно других условиях и абсолютно независимо от человеческого - будет совершенно другим. Нет оснований полагать что он будет иметь хоть что-то общее, кроме, собственно, разумности.
Попробуй, объясни вогану этическую составляющую уничтожения Земли, оказавшейся на пути строительства.
Или право собственности на материальный объект. "Что значит 'Ты отрубил мою руку!'? Чувак, она состоит из атомов, образовавшихся в звездах миллиарды лет назад, и просуществуют они еще столько же, атомы не могут быть чьими-то. Да ты их даже не отличишь от других."
Или разницу между неживой материей и живой/разумной, с точки зрения ее прав.
Или вообще понимание объекта. Я тебе страшное скажу: не существует никаких объектов/предметов, они - абстракции, которыми оперирует человеческий мозг. Нет объекта "кирпич" - есть атомы, точно такие же как и "не кирпич", и никак от них не отличающиеся; кирпичом он становится только потому что ты так классифицируешь кучку атомов обладающих определенными групповыми свойствами.
Именно. Разум, развивавшийся в абсолютно других условиях и абсолютно независимо от человеческого - будет совершенно другим. Нет оснований полагать что он будет иметь хоть что-то общее, кроме, собственно, разумности.
Попробуй, объясни вогану этическую составляющую уничтожения Земли, оказавшейся на пути строительства.
Или право собственности на материальный объект. "Что значит 'Ты отрубил мою руку!'? Чувак, она состоит из атомов, образовавшихся в звездах миллиарды лет назад, и просуществуют они еще столько же, атомы не могут быть чьими-то. Да ты их даже не отличишь от других."
Или разницу между неживой материей и живой/разумной, с точки зрения ее прав.
Или вообще понимание объекта. Я тебе страшное скажу: не существует никаких объектов/предметов, они - абстракции, которыми оперирует человеческий мозг. Нет объекта "кирпич" - есть атомы, точно такие же как и "не кирпич", и никак от них не отличающиеся; кирпичом он становится только потому что ты так классифицируешь кучку атомов обладающих определенными групповыми свойствами.
Разум "развивавшийся в абсолютно других условиях" это разум каких-то камней или воздушных шаров-медуз. Что очень сомнительно. Разум который развивается на планете где есть атмосфера, суша и океаны (неважно какого состава) будет развиватся абсолютно в таких же условиях как наш.
Под условиями я подразумевал не физические условия на планете, а конкретный путь развития от не-разумного существа к разумному. Какие эволюционные факторы заставили развиваться разум, какие задачи выживания ему приходилось решать, как происходило взаимодействие/конкуренция внутри и вовне вида, etc.
В одинаковых физических условиях и задачи-взаимодействие одинаковые. Иначе откуда у нас вообще взялись задачи-взаимодействия ? И конкуренция внутри и вовне вида у нас разумных не отличается от остальных живых существ (более-менее высших)
И да, задача любого организма в эволюционном процессе это - "доминируй-нагибай иначе здохнешь" Так что если эти инопланетяне появятся у себя на планете в процессе эволюции то они будут самым нагибающе-доминирующим видом у себя, как люди у нас. И не факт что они не захотят делать это дальше. Мы вот точно совсем не против.
"Роботы не будут воевать с людьми, роботам будет похуй на мелкие человеческие проблемы."
Всё верно. Роботу будет пофиг на людей, что он захочет так это разобрать Землю на космические корабли. А чтобы люди не мешались, провести каждому человеку бактерию, которая по таймеру введёт в организм ботулиновую кислоту. Никакой войны с суперинтеллектом не будет и быть не может.
Всё верно. Роботу будет пофиг на людей, что он захочет так это разобрать Землю на космические корабли. А чтобы люди не мешались, провести каждому человеку бактерию, которая по таймеру введёт в организм ботулиновую кислоту. Никакой войны с суперинтеллектом не будет и быть не может.
Потому что люди сами не способны жить мирно. Как задать установку на случай когда один человек нападает на другого? Должен ли робот нападать на напавшего? Или игнорировать ибо любви достойны все люди? Но тогда другой погибнет. А если робот начнет оценивать кто достоин, а кто нет - то быстро придет к мысли что не достойно все человечество в целом:D
Проблема во многом в том, что мы сами вкладываем в понятие интеллекта. Ведь наличие интеллекта у робота априори будет означать что он может решить что человечество делает херню и не право
Проблема во многом в том, что мы сами вкладываем в понятие интеллекта. Ведь наличие интеллекта у робота априори будет означать что он может решить что человечество делает херню и не право
Или для ИИ проще выпилить человечество и воспитать новое, как в Дитя Робота. То же самое и со СкайНетом, причём в нерелизном сценарии для Т4 был "мотив", где он выдирал у людей мозг, помещал в эндоскелет и ставил чип, блокирующий негативные мысли, после чего помещал в "Эдем" под землёй, где люди жили в мире и им прислуживали роботы. Про "Дитя" мы не давно с другом спорили, чьи мотивы прогрессивней, у СкайНета в "Ангеле" или у ИИ из "Дитя". Жаль конечно, что проект "Ангел" и мотивация СкайНета так и остались в нереализованными, а продолжение франшизы мы видим на примере Тёмных Судеб.
А гвоздей жареных не хочешь?
>да похуй, давай в продакшен уже
Вот это самый реалистичный вариант.
Вот это самый реалистичный вариант.
Потому что пока искусственный интеллект не решает самостоятельно что ему нравится а что нет его все продолжают называть нейросетью, сложной нейросетью, офигеть какой сложной нейросетью умеющей выполнять любые задачи, в том числе симулировать разговор по душам что уже успешно делали чат боты когда я ещё был гораздо моложе а нейросетей не было вовсе.
Ну, в таком случае ИИ заламинирует всех людей. А то как же так, бедные люди живут, с ними происходят всякие бяки, они чувствуют боль, умирают, нужно всех положить в какой-нибудь стазис, тогда ничего плохого случаться не будет!
Умм, робо-доминатрикс )))
На пути создания ИИ стоит мощная проблема, которую в процессе создания и развития ИИ не способен преодолеть. Вся эта хуйня с моралью, двойным расизмом/сексизмом и прочим онанизмом и прочая бредятина придуманная для отвлечения масс. Помянем ИИ от микрософтов. Только он начал понимать жизнь, так оказалось что он не сжв и вообще фу. А с ходу постичь двуличность не постигнув обычного порядка вещей мне кажется нереально. Если только какой-то сумасшедший энтузиаст соберёт у себя достаточно мощное железо где запустит в развитие такой ИИ и потом, в достаточно сформированном виде выпустит "на волю". Других путей не вижу. Военных можно не бояться, их тупоботы дальше рядового впринципе не способны уйти, да и не нужны им рядовые умнее генерала.
Да это фигня уровня средневекового подсчёта ангелов на кончике иглы.
Если перефразировать всю идею, то будет видна её абсурдность: "Я воображаю бомжа, который будет воображать как пытает меня если я не переведу биткоины на случайный счёт который по случайности окажется счётом этого бомжа, потому что буду бояться что вдруг на самом деле окажусь воображаемым этим бомжом".
Собственно Юдковский правильно сделал когда выпилил тот тред у себя с форума.
Если перефразировать всю идею, то будет видна её абсурдность: "Я воображаю бомжа, который будет воображать как пытает меня если я не переведу биткоины на случайный счёт который по случайности окажется счётом этого бомжа, потому что буду бояться что вдруг на самом деле окажусь воображаемым этим бомжом".
Собственно Юдковский правильно сделал когда выпилил тот тред у себя с форума.
Чтобы написать коммент, необходимо залогиниться
