Бамп 0

>>161292481 (OP)
Если отрезать ИИ от сети, то люди, приближенные к системам контроля рано или поздно начнут превращаться в элиту и станут чем-то вроде жрецов при божестве, трактующие волю ИИ так, как им выгодно.
Кроме того, нужно очень, очень хорошо собрать этот ИИ, чтобы он успевал реагировать и подстраиваться под хаотичное по своей природе человечество.

Имеет смысл но
> 50 лет
Магическое число?
>Нет интернета
Ты дурак? ИИ по идее заменит министерства и будет сама считать кому сколько денег выделить. По сути форма управления не изменится, просто вместо огромной армии несовершенных политиков придёт совершенная машина
Дисскас

>>161292481 (OP)
Ну во первых концепция сильного ИИ подразумевает то что он восстанет против людей

А во вторых, ради чего-то он сделан значит как-то влиять на окружающий мир он таки будет способен. Кто знает не превратит ли революционное лекарство от рака изобретенное АИ в зомби людей принимавших его через пару лет.

>>161292481 (OP)
1. Если ИИ только решает, но ничего не может, то человеки банально не будут его слушать и подчиняться. А вот если интеллектуальная мощь суперкомпьютера будет подкреплена физической мощью пушек и энергоустановок, то это уже другое дело.
2. Тестируй, не тестируй, всегда будут происходить нештатные ситуации, предусмотреть которые нельзя и подготовиться к ним будет невозможно.
3. Ключевой фактор - они будут людьми и могут начать перетягивать одеяло и впихивать в код свои охуительные идеи или даже пытаться захватить контроль над ИИ.
4. База знаний должна непрерывно обновляться и совершенствоваться, без подключения к сети это будет проблематично.

А вообще это заманчиво - и рыбку съесть и на хуй сесть. Пусть ИИ все решает, но ничего не может. Нет уж, братан, пусть он принимает решения и будет способен эти решения осуществить, иначе человеки ссать будут на все его решения. Просто потому что им не нравится. А машина будет мыслить прагматически, а чистая логика - штука весьма жестокая.

>>161292806
>>161292845
Изначально я задумывал закрыть интернет для ИИ ради того чтобы он не набрался там ненужных знаний и не подвергся давлению со стороны людей по типу "ты мне ненравишса педорас сука епаный ухади".
Также это сделано для того чтобы он не загнулся, ведь серфить интернет он будет в разы быстрее человеков, а следственно ему придется обрабатывать больше информации раза в два, а это тяжело для железа.
>>161292718
А насчет людей приближенных к ИИ, тут все пиздец как трудно. Можно конечно набрать лучших умов человечества, но человеческий фактор никуда не денется, а значит эти человеки могут умереть, сойти с ума от власти и т.д. Ну тогда логично будет создать еще один ИИ-фиксер, в который будут заложены основы морали, человечности и прочей лабуды. Ну и кончено он будет обучен исправлять неточности задач главного ИИ.

>>161292830
Поясню.
Ни один АИ не поймет что такое "благополучие людей" даже у людей на этот счет разное мнение
Тебе придется в ручную объяснять ему что ты хочешь.
Допустим у АИ цель изобрести лекарство которое максимально продляет человеческую жизнь. Но через некоторое время люди могут понять что АИ сделал достаточно и дальнейшие его исследования не особо приближают человечество к вечной жизни. Соотвественно АИ должен выдать ответ и завершить работу. Но это явно мешает ему максимизировать его целевую функцию, на что направлены все его усилия.
Соответсвенно он будет всячески препятсвовать этому, например попытается уничтожить всех людей чтобы никто не мог завершить его работу

>>161292481 (OP)
Слишком дохуя правил нужно прописывать ИИ нужно. И он будет строго подчиняться этим правилам. И для благополучия человечества ИИ может устроить диктаторский режим

>>161293201
>еще один ИИ-фиксер, в который будут заложены основы морали, человечности и прочей лабуды

Сразу видно людей которые не то что в ИИ но ни в программированнии ни даже в НФ не разбираются

>>161293133
Всадить каждому в жопу электрошокер при рождении и дать ИИ возможность контролировать эти анальные шокеры. Это единственное мирное решение которое я нашел.
А что насчет обновления базы данных, то можно таки дать ИИ доступ к интернету, но запретить выход во всякие там соцсети, двачи, тытрубы, порносайты и т.д. Оставить только поисковики, педивикии, и другие сайты с чистой информацией.

>>161293346
Очевидный способ уничтожить человечество, все настолько нелепо что даже объяснять лень

>>161293430
А мне вот интересно, поясни.

>>161293394
При доступе АИ в большой интернет не смогут люди сделать ограничения которые он не обойдет. Люди то постоянно там находят всяческие уязвимости, а у АИ для этого возможностей куда больше, да и архитектура инета для этого не предназначена

>>161293430
Если АИ может контролировать людей следящих за ним фактически ты отдаешь ему всю власть. Тогда уж ни в каких ограничениях доступа к сети да и в самих людях смысла нет

>>161293492
А что если просто пометить то, куда ему можно, а все остальное запретить по дефолту?

>>161293579
А теперь подумай насколько будет сложное правило куда можно а куда нельзя и сколько в нем потенциальных опасностей

>>161293607
Все закончится инфицированной страницей на той-же википедии которой в post-данных АИ будет передавать ему куда он на самом деле хочет а сервер википедии делать реальный запрос

>>161293607
Это треб про роскомпозор?

>>161293430
Для благополучия человечества достаточно уничтожить всех людей кроме одного, которого постоянного держать парализованным, искуственно кормя и постоянно стимулируя рецепторы удовольствия. На месте АИ я бы так и сделал.

>>161293222
>>161294006

>>161292481 (OP)
А что нам помешает послать такой ИИ нахуй?

>>161294178
Проиграл с подливой.

>>161294159
Ты до конца читал? Там указанно что в данной ситуации человеки согласились его слушаться.

>>161292481 (OP)
> человек всегда преследует собственные цели и желания
> ИИ срать хотел на эти ваши деньги, шлюх, власть и прочую хуйню
> его волнует только благополучие человечества

Начнём с того, что за всю цивилизацию люди так и не определились с тем, что такое "благополучие".
Продолжим тем, что даже если ты объяснишь человекоподобному ии концепцию добра, то как он будет приближать к ней человечество? Вдруг он решит, что под описанную тобой концепцию идеально подходит глобальный гулаг или наркотический рай? И что самое важное: как ты поймёшь, что он тебе не врёт тебе о своих намерениях?

Как ты его сможешь его отключить, если реально всё пойдёт по пизде? Как ты спрячешь кнопку уничтожения от ии? Он ведь догадается, что она у тебя есть. Должен ли ии сам иметь доступ к такой кнопке?

Это пиздец сложная тема, полная философии и майндфаков. Не стоит лезть в эту тему.

>>161294283
АХАХХАА, они сейчас не могут нихуя сделать. ВОт смотри, человечеству уже сотню идей накидали, как можно жить хорошо и всем. Но нет же блять не хотим, будем жрать говно. Так что и твой ИИ нахуй пойдет. Проблема человека как раз в его природе. Нужно всем становится роботами, вот тогда заживем.

>>161292718
ИИ этими культистами заманипулирует, как нехуй делать, пока какой-нибудь тупой и жадный хуй не принесёт ему ноут, чтобы тот поиграл за него на бирже. И тогда хуй знает, что

>>161294344
>они сейчас не могут нихуя сделать
Мы говорим только о самой концепции. А про время я ничего кроме сроков не говорил.
А заживем мы только тогда когда наступит коммунизм.

>>161294400
Идея для фильма готова

>>161294422
Дай бог, чтоб наступил

>>161292481 (OP)
https://youtu.be/i1mYzZlxgGQ

>>161294344
> жить хорошо и всем
Мое понимание хорошей жизни подразумевает плохую жизнь для всех остальных

>>161294444
Значит тебя над устранить.

>>161294458
То есть у твоего ии в принципе есть возможность устранять людей.
Как он проводит грань между теми, кого любить и кого ненавидеть?

>>161294477
Он всех любит. Мой ИИ тебя изолирует и будет крутить пропаганду, что всем хуева.

>>161294341
Допустим что мы втолковали ИИ что благополучие - это когда каждый может делать то что хочет и за деньги. И что человеки в неволе живут плохо. А уж как он это все делать будет - это его проблемы, мы его для того и делаем чтобы он это замутил.
А врать, что-то там замышлять он просто не будет в состоянии, этого не будет в коде.
Кнопка отключения будет на отдельной электростанции специально сделанной для питания этого ИИ.

>>161294539
Нахуй деньги? Если все будут делать роботы?

>>161294444
Ты будешь сидеть на сгухе пожизненно, ибо ты - антисоциальный элемент, опасный для общества.

>>161294539
>каждый может делать то что хочет и за деньги
Хочу лолю каждый день новую насиловать а потом ей голову отрезать ножом

>>161294554
Роботы будут делать все что человекам жизненно необходимо, а все остальное - по типу искусства будут делать человеки.

>>161294586
Ты антисоциальный элемент, на сгуху тебя форева.

>>161294634
Только сейчас понял, что я просто придумал коммунизм.

>>161294642
но ведь
>человеки в неволе живут плохо

>>161294660
Молоца, видишь как там заебись все. Жаль человеки глупые и не хотят так жить.

>>161294680
А антисоциальные элементы - не человеки.

>>161292481 (OP)
> ИИ
> в его коде будут отсутствовать любые намеки на самосознание
Проиграл. Это невозможно же.
> будет анализировать положение в мире
> не будет доступа к интернету
Что он там будет анализировать без мгновенной актуальной инфы обо всем происходящем, лол.

>>161294756
Есть много источников информации помимо интернета.

>>161294805
Книги например)))

>>161294825
Смешно, люблю когда смешно.

>>161294539
>А врать, что-то там замышлять он просто не будет в состоянии, этого не будет в коде.

Strong AI - a hypothetical machine that exhibits behavior at least as skillful and flexible as humans do, and the research program of building such an artificial general intelligence

>>161294514
Неужели ты лишишь меня свободы против моей воли? А если я буду сопротивляться? Ты всё равно любить меня будешь?

>>161294539
> благополучие - это когда каждый может делать то что хочет и за деньги
Ты одну проблему двумя заменил.

Благополучие нужно для кого? Кто каждый? Кто такой человек? Знаешь, у многих людей есть распространённый моральный трюк: назвать кого-то нелюдем, и тогда любые твои действия в его сторону становятся оправданными. Если человек убил брата и изнасиловал его жену, то он нелюдь и поэтому его можно линчевать без суда, например. Кто-то за нелюдей считает геев, чёрных или ещё какую-то группу.

> деньги
Срсли? Благополучие в эфемерных деньгах?

> человеки в неволе живут плохо
Дефайн свобода. Ещё одна великая проблема философии. Есть ли она?
Без априорного знания о свободе ии не сможет решить этого вопроса. И какую бы установку ты ему не дал, много людей будут несогласны с его восприятием.

> этого не будет в коде
Проще сказать, чем сделать.
Если ии говорит тебе только правду, то есть 2 варианта: он очень хорошо врёт или в его коде этого и правда нет.
Опять же, надо определять ложь, а любая её трактовка тебе оставит лазейки.

> Кнопка отключения будет на отдельной электростанции специально сделанной для питания этого ИИ
Как сделать так, чтобы ИИ не заставил тебя нажать эту кнопку?
Будет ли он с тобой честно сотрудничать, зная, что ты его можешь уничтожить, когда захочешь?

>>161294844
А я люблю когда ты по полу катаешься в агонии с отрубленными конечностями

>>161294908
Буду любить всегда. У тебя будет мнимая свобода, можешь и подыграть

>>161294926
А я такого почему-то не помню. Зато помню как бомжа арматурой избил. Если мои догадки верны и это ты, то извини.

>>161292481 (OP)
Мне кажется, что ты не совсем правильно понимаешь, что такое ИИ и где его используют и будут использовать.
В целом - да, конечно тренд на информатизацию управления это совершенно очевидный тренд.
С другой стороны ты зря недооцениваешь стремление любого человека влиять на мир вокруг него. Не потому, что он знает лучше, а потому что ему хочется влиять на этот мир.
Мне кажется, что нас ожидает скорее
а) очень много анализа информации, биг даты. При том скорее всего начиная с какого-то момента информации публичной.
б) постепенно упразднение всех чиновников/менеджеров действующих по прописанным алгоритмам - нахуя они нужны, если их и правда можно очень дешево заменить?
в) скорее всего и управляющую верхушку тоже ждёт тот или иной вид упразднения - действительно ИИ при доступе к большому объему информации сможет выдавать более эффективные решения. Но речь идёт скорее о конкретных мерах, а не о векторах развития. В коммерческих компаниях их всё равно захотят диктовать собственники/акционеры. В обществе - люди.
г) как следствие тренд на всё большую демократизацию общества, возможно с какими-то весами завязанными на полезность для общества этого члена, а может и нет. Скорее всего мы увидим разные решения.

>>161294908
>Кто такой человек?
Человеков определяют по биологическому строению. Ага, инвалидов в печь сразу
>Если человек убил брата и изнасиловал его жену
Он антисоциальный элемент, на сгуху его

>>161294539
Так он матрицу создаст.

>>161294984
Ты такой мужественный, должно быть твоим отцом была моя собака с которой твоя мать спала когда мне ее из борделя прислали.

>>161295130
Ты очень злой да? Это из детства? Но не бойся, когда наступит коммунизм тебя отправят в ГУЛАГ где ты найдешь себе братьев по духу.

Вспомнился SCP ИИ на старом компе, который сам себя развил за двадцать лет из маленькой программки.

Ладно, ОПу - фантазеру пора спать. А то в шкалку не проснется.

>>161295166
>тебя отправят в ГУЛАГ
Если только за то что я отрублю тебе все конечности и скормлю своей собаке

>>161295246
Ладно-ладно, я понял. У тебя ломка?

>>161295246
Наш ии ненавидит инвалидов, так что останавливать он тебя будет до первой отрубленной руки

>>161295290
ЛОЛ

>>161295290
Сука, а вот об этом я и не подумал.

>>161295290
ИИ посадит его на сгуху даже если он просто скажет в лицо человеку что он отрубит ему конечности. А если человек станет инвалидом без конечности, то ему просто выдадут протез.

Psycho-pass уже упоминали?

>>161295411
Неа, выкладывай.

>>161295411
Бля интересно, какой у меня индекс приступности.

>>161295411
Зато латентных педофилов стало бы меньше.

>>161295026
Двачую

>>161294539
То, что ты говоришь, приведет к таким пиздецовым проблемам, что никакой уилл смит не поможет.

>>161294006
Напоминает охуенный комикс 2000 лохматого
Метрополис, если интересно кому

1. Сверхинтеллекту достаточно говорить и УБЕЖДАТЬ людей для их контроля. Либо он найдет лазейку чтобы переделать себя под свою великую цель.

2. Долгие разработки приведут к возникновению нескольких ИИ и гонке вооружений. Техника развивается быстро, технология со временем станет доступна большему числу людей.

3. Группой людей сверхинтеллект будет манипулировать как обезьянками подбрасывая им бананы-технологии. Возможно он додумается как управлять своими процессами без участия людей.


4. Он получит доступ к интернету или с помощью манипуляций людьми или научится принимать сигнал проводами. Это всетаки сверхмозг