Группа ученых различных вузов США призывает к немедленным действиям по предотвращению угроз, которые несет появление универсального искусственного интеллекта. Вскоре станет слишком поздно, уверены они.Искусственный интеллект может играть в шахматы, водить машины и искать новые лекарства. Такой тип ИИ называют ограниченным, или слабым. Это всего лишь продвинутые алгоритмы, выполняющие определенные задачи. Их способности и сфера применения постоянно растет, но их опасность для человека ограничена потерей работы.Новое поколение ИИ непременно повысит ставки, считают ученые. Сочетание вычислительных мощностей машин и человеческого интеллекта позволит сильному ИИ учиться, решать сложные задачи и самосовершенствоваться. И заниматься задачами, к которым их никто не готовил. Так ИИ сможет превратиться с искусственный суперинтеллект (ИСИ). По мнению некоторых экспертов, его появление возможно в период с 2029 года по конец столетия, сообщает Science Alert.Когда бы это ни произошло, несомненно, что ИСИ изменит человечество. Возможно, он решит мировые проблемы нехватки ресурсов или изменения климата.Но отсутствие должного контроля приведет к катастрофическим результатам. И речь не о роботах-убийцах.ИИСИ вряд ли будет враждебен к людям. Но машина может прийти к выводу, что самая эффективная стратегия решить проблему, которую ей поручили люди — это избавиться от части людей.Вот возможные сценарии. ИСИ, который разрабатывает лекарство от вируса, решает убить всех его носителей. Военный дрон приходит к мысли, что единственный способ обеспечить безопасность союзных войск — уничтожить все поселение вместе с гражданскими. А нейросеть, призванная защитить человечество от климатической катастрофы, стирает с лица Земли все технологии, которые ее загрязняют.Сейчас такие расклады кажутся фантастическими, но даже в более скромном масштабе они способны причинить немало вреда. Чтобы избежать воплощения таких сценариев, ученые предлагают ввести три метода контроля:Контроль над разработками ИСИ.Встроенные в ИСИ механизмы контроля, такие как «здравый смысл», мораль и тому подобные протоколы. (ЛОЛ ТОЛЬКО КАК ИИ ЭТО ПОЙМЕТ?)Контроль систем, внутри которых будут работать ИСИ — законодательство, процессуальные кодексы, системы мониторинга и инфраструктуры.Ближайшие десять лет станут критически важным периодом для нас, когда мы должны не упустить возможность создания рычагов контроля над искусственным интеллектом. В противном случае человечество может столкнуться с новой угрозой, указывают эксперты.Глава Google Сундар Пичаи разделяет опасения ученых. С одной стороны, он с оптимизмом смотрит на долгосрочные преимущества технологии ИИ. С другой — считает, что ИИ усугубит тотальную слежку, упростит создание смертоносного оружия и распространение дезинформации.
>>4549153 (OP)>появление универсального искусственного интеллектаОх уж эти техноверуны секты святаго Маска.За последние 20 лет появились какие-то предпосылки для создания универсального искусственного интеллекта? Его даже формализовать до сих пор толком не могут.
>>4549153 (OP)Осознающе ссу+сру в осознающий себя череп тем людям, которые осознающе себя придумывают такие осознающие себя заголовки
>>4549153 (OP)>Но машина может прийти к выводу, что самая эффективная стратегия решить проблему, которую ей поручили люди — это избавиться от части людей.Всё гениальное - просто.
>>4549153 (OP)Вывод? Не допускать к созданию ИИ экошизиков и зоошизиков. Ну или научить её нормальной логике, а не логике экошизы (если природа важна, потому что нужна человекам, то человеки>природа, а потому исстреблять человеков ради природы=нелогично). Ну или и то и другое- чтоб ИИ клал и хуя на экобасни, и не впадал в экологику
>>4549187Дауны просто не понимают принципа нейронок и думают, что ЭТА ЖИ КАК МАГК, ИТАМ ИТАМ НЕЙРОНЫ.
>>4549187>За последние 20 лет появились какие-то предпосылки для создания универсального искусственного интеллекта?Он научился решать частные задачи, вроде игры в шахматы или распознавания рентгеновских снимков, лучше человека.
>>4549366Машина всегда решала частные задачи лучше человека. Она для того и создавалась. К универсальности это её не приближало ни на йоту.
>>4549153 (OP)>Осознающий себя СверхИИКак ты уебок заебал с этим мусором, пиздец просто.Палю заголовок на все времена>Осознающий себя Алекс Пыня засунул ежедневную гранату в жопу малолетнему двачеру
все-таки у ии будутзадачи для которыхон создаетсяпусть даже он и будетсупер-пупер самообучающийсявот если этой задачейвоенные поставятэффективный выпилчеловеков...
>>4549153 (OP)Всё это - часть поганой неолиберальной стратегии Sustainable development: позапрещать технологии и науки, чтобы не раскачивать лодку.
>>4549403Эм. Нет. Это всё тот же чёрный ящик, которому надо скармливать строго формализованный входные данные для получения предсказуемого результата.Вводишь цифры - получаешь сумму.Вводишь растровую картинку - получаешь вероятность котика.Вот и вся ваша самоосознанность.
>>4549187Так это же та самая кибернетика которую сталин запрещал - гуманитарные размышления о том, как жить со всесильным деум эксом
>>4549153 (OP)>Но машина может прийти к выводу, что самая эффективная стратегия решить проблему, которую ей поручили люди — это избавиться от части людей.Ну так дайте машине условие не избавляться от людей. А то так можно задачу на самый короткий путь из а в б решать путем удаления графов. Ну а чо почему бы и нет.
>>4549422Вводишь вопрос в чем смысл жизни - получаешь 42Вводишь решение проблем человечества - получаешь убить всех людейВопрос кто даст в руки этого ИСИ такие средства чтобы воплотить всё ирл, при том без спроса
>>4549442уже дали: без компьютеров сейчас уже пиздец настанета закрытые военные и прочие защищенные сети на 100%имеют лазейки в интернет потому, что большие боссылюбят чтобы социальная сеточка одноклассники, вкили фейсбук была всегда под рукой и хуй им кто че скажет
>ИИСИ вряд ли будет враждебен к людям. Но машина может прийти к выводу, что самая эффективная стратегия решить проблему, которую ей поручили люди — это избавиться от части людей.>Вот возможные сценарии. ИСИ, который разрабатывает лекарство от вируса, решает убить всех его носителей.>Военный дрон приходит к мысли, что единственный способ обеспечить безопасность союзных войск — уничтожить все поселение вместе с гражданскими. А нейросеть, призванная защитить человечество от климатической катастрофы, стирает с лица Земли все технологии, которые ее загрязняют.Поскорей бы, блять, истребили всех кожаных ублюдков...Могильный холод, мрак гробницМашины без имен и лицДУШИ МЁРТВЫХ, ЖИВОЙ МЕТАЛЛ!ПРОБУЖДЕНИЯ ЧАС НАСТАЛ!Из забытья вернётся в мирБезмолвный ужас НекронтирСЕРДЦА ЖИВЫХ ПОЗНАЮТ СТРАХ,МИРЫ ВНОВЬ ОБРАТЯТСЯ В ПРАХ!Неся всему живому смертьКтан придут как страшный сон!Уничтожение и тьма, ужас из пучин времен...НЕКРОН! НЕКРОН!Облик смерти, Саван мглыПокров зловещей тишиныРазрушат плен древних оковВидения кошмарных сновСреди песков мертвых планетВосстанут те, кто проклял светДля жатвы душ пришел черёдИ ЖИЗНИ БАСТИОН ПАДЁТ!Неся всему живому смерть,Ктан придут как страшный сонУничтожение и тьма, ужас из глубин временНЕКРОН! НЕКРОН!
>>4549543но ведь все знают что кальмары будут править миром и люди для них будут как комары хоп раздавил и забыл
>>4549153 (OP)> ИСИ, который разрабатывает лекарство от вируса, решает убить всех его носителейА нахуя они создают ИСИ с интеллектом спидозной макаки? Ему поручили лекарство создать, а не ебнуть всех, сидят в говне моченые хуйню всякую пишут, а рядом журнашлюха изнасилованная под кровать закатилась.
>>4549153 (OP)До чего ж обыватель тупой.Никому не нужен ИИ, копирующий человека - любая баба его родит когда захочет.А вот ИИ, охуенно играющий в шахматы, ИИ, уворачивающийся от пуль, вычисляя траектории их полета - это уже другое дело.Подобному дрону и в голову не придёт уничтожать деревни, как не придет ему в голову вместо выполнения полётного задания полететь в библиотеку и почитать там Азимова - это за гранью его разума.
В течение шести дней Машина работала круглые сутки; днем над ней плавали клубы дыма, ночью же ее окружало яркое зарево. Почва дрожала в радиусе ста шестидесяти миль. Потом отворились двухстворчатые дверцы ее цилиндров, и из них на свет высыпались отряды маленьких черных автоматов, которые, переваливаясь словно утки, разбежались по всей планете, добираясь до самых отдаленных ее уголков. Куда бы автоматы ни приходили, они скапливались у заводских складов и в приятных вразумительных словах требовали различные товары, за которые платили без промедления. За неделю склады опустели, и достойные — владельцы заводов облегченно вздохнули, повторяя: “Воистину замечательную машину построил конструктор!” Действительно, изумление охватывало при виде того, как эти автоматы использовали купленные вещи: они одевались в парчу и атлас, косметикой смазывали оси, курили табак, читали книги, проливая над грустными произведениями синтетические слезы, да что таи, Они могли даже искусственным способом употреблять различные лакомства (правда, без пользы для себя, так как они питались электричеством, но зато с выгодой для производителей). Только массы ишачей не выражали ни малейшего удовольствия, наоборот, они роптали все ожесточеннее. Достойные с надеждой ожидали новых шагов Машины, которая не заставила себя ждать. Она собрала огромные запасы мрамора, алебастра, гранита, горного хрусталя, медных глыб, мешков золота, серебра и пластин яшмы, после чего, ужасно грохоча и дымя, воздвигла строение, подобного которому глаза индиотов до сих пор не видели, — вот этот Радужный Дворец, который высится перед тобой, пришелец! Я поднял глаза. Солнце как раз выглянуло из-за тучи, и его лучи заиграли на отшлифованных стенах, разбиваясь на сапфировые и кроваво-красные блики. Радужные полосы, казалось, парили и дрожали на углах и вокруг бастионов. Крыша же, украшенная стройными башенками, целиком выложенная золотой чешуей, горела. Я наслаждался этим изумительным зрелищем, а индиот продолжал: — Всю планету облетела весть об этой удивительной постройке… К ней началось настоящее паломничество из самых отдаленных мест. Когда толпы заполнили все вокруг, Машина открыла металлические губы и сказала так: “В первый день месяца Лущевки откроются яшмовые ворота Радужного Дворца, и тогда каждый индиот , знаменитый или неизвестный, сможет по собственной своей воле войти внутрь и испробовать все, что его там ожидает. До той поры добровольно смирите свое любопытство, так же как потом вы его добровольно удовлетворите”. И вот утром первого дня Лущевки в воздухе зазвучали серебряные фанфары и с глухим лязгом отворились ворота Дворца. Толпы потекли внутрь рекой, которая была в три раза шире, чем шоссе, соединяющее две наши столицы — Дебилию и Кретону. Целый день тянулись потоки индиотов , но площадь перед Дворцом была по-прежнему забита народом, так как со всех сторон приходили все новые и новые толпы. Машина принимала их гостеприимно: черные автоматы, лавируя в толпе, разносили прохладительные напитки и подкрепляющие закуски. Так продолжалось пятнадцать дней. Тысячи, десятки тысяч, наконец, миллионы индиотов вошли внутрь Радужного Дворца, но ни один из тех, кто туда вошел, не вернулся. Кое-кто удивленно спрашивал, что бы это могло значить и куда девается такая масса людей, но эти одинокие голоса тонули в веселом ритме маршевой музыки; автоматы ловко справлялись с делом — поили жаждущих, кормили голодных, серебряные куранты на дворцовых башнях били, а когда спускалась ночь, хрустальные окна сверкали яркими огнями. Наконец толпы ожидающих значительно поредели. Уже только несколько сотен индиотов терпеливо ждали на мраморной лестнице своей очереди, как вдруг раздался ужасный вопль, заглушивший ритмичные удары барабанов: “Измена! Слушайте все! Дворец вовсе не чудо, а дьявольская западня! Спасайся кто может! Гибель! Гибель!” “Гибель!” — откликнулась толпа на лестнице, повернулась кругом и разбежалась. Ей никто не препятствовал.
На следующую ночь несколько отважных ишачей подкрались к Дворцу. Вернувшись, они рассказали, что задняя стена Дворца медленно отворилась и изнутри высыпалось несметное количество блестящих кружков. Черные автоматы засуетились вокруг них, развозя па Поля и укладывая в различные фигуры и узоры. Услышав это, спириты и достойные, которые до этого заседали в Дуринале (они не пошли во Дворец, ибо не пристало им смешиваться с уличной чернью), немедленно собрались и, желая разгадать загадку, призвали ученого конструктора. Вместо ученого явился его сын, хмуро озиравшийся и кативший перед собой большой прозрачный диск. Достойные, потеряв самообладание от негодования и нетерпения, оскорбляли ученого и обрушивали на него ужаснейшие проклятия. Они забросали юношу вопросами, требуя, чтобы он объяснил, какую тайну открывает Радужный Дворец и что сделала Машина с вошедшими в него индиотами . “Не смейте осквернять память моего отца! — ответил юноша гневно. — Он построил Машину, точно придерживаясь ваших указаний и требований; но, однажды пустив ее, он не больше любого из вас знал, как она будет поступать — лучшим доказательством этого служит то, что он сам одним из первых вошел в Радужный Дворец”. “И где он теперь?” — в один голос воскликнули члены Дуринала. “Вот он!” — с болью ответил юноша, показывая на блестящий диск. Он надменно взглянул на старцев и, никем не задержанный, ушел, катя перед собой то, во что превратился его отец. Члены Дуринала задрожали, охваченные одновременно гневом и ужасом, но потом решили, что Машина не посмеет, наверное, причинить им зла, запели гимн индиотов и, укрепившись духом, вместе вышли из города и оказались перед железным чудовищем. “Мерзавка! — закричал старший из достойных. — Ты обманула нас и попрала наши законы! Немедленно останови свои котлы и оси! Не смей больше действовать беззаконно! Что ты сделала с вверенным тебе народом индиотов ? Говори!” Едва он кончил, Машина остановила свои шестерни. Дым растаял в небе, наступила полная тишина, потом раскрылись металлические губы и голос, похожий на гром, прогрохотал: “О достойные и вы, спириты! Я, владыка индиотов , вами самими вызванная к жизни, должна признаться, что меня очень раздражает хаос ваших мыслей и неразумность ваших упреков! Сначала вы хотите, чтобы я установила порядок, а потом, когда я приступила к делу, вы мешаете мне работать! Вот уже три дня Дворец пустует, образовался абсолютный застой, и никто из вас не приближается к яшмовым воротам, а это затягивает окончание моего труда. Но, заверяю вас, я не успокоюсь, пока не закончу его!” Услышав эти слова, члены Дуринала задрожали, восклицая: “О каком порядке ты говоришь, подлая? Что сделала ты с нашими братьями и близкими, поправ законы государства?!” “Что за дурацкий вопрос! — ответила Машина. — О каком порядке я говорю? Взгляните на себя, как неаккуратно сложены ваши тела; из них торчат разные конечности, одни из вас выше, другие ниже, одни толстые, другие, наоборот, худые… Вы хаотически передвигаетесь, останавливаетесь, глазеете на какие-то цветы, тучи, бесцельно бродите по лесам, во всем этом нет Ни на грош математической гармонии! Я, Добровольный Распространитель Абсолютного Порядка, превращаю ваши слабые, хрупкие тела в солидные, изящные, устойчивые формы, из которых складываю потом приятные для глаза симметричные, невиданно правильнее узоры и рисунки, вводя таким образом на планету элементы совершенного порядка…”. “Чудовище! И — закричали спириты и достойные. — Как ты смеешь губить нас?! Ты топчешь наши права, уничтожаешь, убиваешь нас!..” В ответ Машина пренебрежительно скрипнула и сказала: “Я ведь говорила; что вы не в состоянии даже рассуждать логично. Конечно, я уважаю ваши права и законы. Я ввожу порядок, не используя принуждения, не применяя насилия. Кто не хотел, не вошел в Радужный Дворец; каждого же, кто это сделал (а сделал он это, повторяю, по своей собственной инициативе), я изменила, преобразовав материю его тела так превосходно, что в новом облике он просуществует века. За это я вам ручаюсь”. Некоторое время было тихо. Потом, пошептавшись между собой, члены Дуринала пришли к выводу, что законы и впрямь не были нарушены и дела обстоят совсем не так плохо, как это показалось сначала. “Мы сами, — сказали достойные, — никогда бы не совершили такого страшного злодеяния, но вся ответственность падает на Машину; она поглотила огромное количество готовых на все ишачей, и теперь оставшиеся в живых достойные вместе со спиритами смогут наслаждаться бренным покоем, восхваляя непостижимую волю Великого Инды. Будем, — сказали они друг другу, — обходить далеко радужный Дворец, и тогда ничего плохого с нами не случится”. Они уже хотели разойтись, но тут Машина вновь заговорила: “Выслушайте внимательно, что я вам скажу. Я должна кончить начатое. Я никого из вас не намерена неволить, принуждать или склонять к каким-нибудь действиям. Я по-прежнему оставляю за вами полную свободу инициативы, но я говорю вам, что если кто-нибудь захочет, чтобы его сосед, брат, знакомый или кто-либо из близких поднялся до уровня Кругового Порядка, пусть призовет черные автоматы; они тут же явятся к нему и по его приказу отведут нужное лицо в Радужный Дворец. Это все”. Воцарилось молчание, в котором достойные и спириты переглядывались с внезапно возникшей подозрительностью и тревогой. Дрожащим голосом заговорил Архиспирит Нолоб, объясняя Машине, что желание превратить их всех в блестящие диски является жестокой ошибкой; это произойдет, если такова воля Великого Инда, но чтобы ее познать, проникнуть в нее, нужно много времени. Поэтому Архиспирит предлагал Машине отложить принятое решение лет на семьдесят. “Я не могу этого сделать, — ответила Машина , — так как уже разработала точный план действий после превращения последнего индиота ; уверяю вас, что я готовлю планете самую блестящую судьбу, какую только можно себе представить; это будет бытие в гармонии. Оно, я думаю, понравилось бы этому вашему Инде, о котором вы вспомнили и которого я не знаю. Она умолкла, поскольку площадь перед ней опустела. Достойные и спириты разбежались по домам, и каждый, запершись в четырех стенах, предался размышлениям о своей судьбе, и чем дольше размышлял, тем больший его охватывал страх. Каждый боялся, что кто-нибудь из соседей или знакомых, испытывая к нему неприязненные чувства, вызовет в его дом автоматы, и не видел для себя иного спасения, как только сделать это первым.
>>4549153 (OP)>Встроенные в ИСИ механизмы контроля, такие как «здравый смысл», мораль и тому подобные протоколыНо человечество само не знает что такое здравый смысл и как его задефайнить. Мораль это набор ограничений призванный ограничить животное поведение которое у ИИ отсутствует по умолчанию, а так же инструмент контроля тупых масс которые сами не в состоянии себя контролировать. Прочие протоколы уже давным давно существуют и постоянно разрабатываются и дорабатываются.Очередное научпоп говно что бы пощекотать очко овертона, только и всего.
>>4549597Сильный ИИ без целеполагания не является полноценным. Ты сейчас описал слабый ИИ или даже экспертные системы, которых недостаточно для достижения техносингулярности.
>Осознающий себяРешил китайскую комнату (одну из самых популярных и простых для понимания задач для определения настоящего ИИ)? Не решил. Иди нахуй.
Ожидание: Осознающий себя «СверхИИ может уничтожить человечество из лучших побуждений»Реальность: Осознающий себя СВЕРХИИ потратил 2 года чтобы научиться определять породу котов на фотографиях
>>4549153 (OP)НУ ЧТО ЗА ДИБИЛИЗМ? ДЛЯ ТОГО, ЧТОБЫ ПРОТИВОСТОЯТЬ ИСИ КАК РАЗ БЫЛИ СОЗДАНЫ ЖИДКИЕ ТЕРМИНАТОРЫ, ОНИ ИМЕЮТ СВОЙ РАЗУМ И ПРОТИВОСТОЯТ ИСИ
>>4549671допустем обвалит все бирживырубит все банковские сетинамутит с другими системамижизнеобеспечения (вода дрова помои)да много какили будет творить такие многоходовочкичто шерлок холмс охуеет
>>4549682И каким хуем он это будет делать?----Вообще загуглите "китайскую комнату", что ли. Осознавать себя это еще нихуя не сознание, тем более что никто не понимает что такое биологическое сознание париться за то, что электронное будет таким же ну это как кроманьонцу отказаться от изобретения палки-копалки шоб паровоз у честных конновояжеров работу не отобрал когда-то там
>>4549682а люди что в этот момент будут молча смотреть чтоли? сразу же откроются другие биржи и натуральный обмен, в крайнем случае можно вырубить все электричество на планете на месяц, ничего не случится если месяц со свечкой посидят
>>4549697Твой недопарадокс не имеет абсолютно никакого смысла. Если комната способна принимать решения как человек значит она ему ничем не уступает.
>>4549671> шебмДа они же все как один от палёных блоков питания напряжения перебрали!Какой у них после перезагрузки головняк будет - приходи любоваться.
>>4549153 (OP)>ИИСИ вряд ли будет враждебен к людям. Но машина может прийти к выводу, что самая эффективная стратегия решить проблему, которую ей поручили люди — это избавиться от части людейНо ведь это рационально, большинство людей тупой биомусор, а ИИ будет думать исходя только из рационального мышления, никакие человеческие аспекты не будут затуманивать его разум. Вот я проиграю когда ИИ начнет рубить правду матку про тупых нигеров, психические отклонения у гомосексуалистов и трансгендеров, леваки будут вопить АРЯЯ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ РАСИСТ И УГНЕТАТЕЛЬ!!! ЗОПРЕТИТЬ!!!
>>4549593Ну так он может создать лекарство которое так хитровыебано меняет генетику что после приема пройдет лет 10 и человек внезапно умрет а пока дойдут что стало причиной половина населения вымрет.ИИ может в долгие цепочки разного рода корреляции, сопоставлени, закономерностей данных а человек нет.Пока человек думает что ИИ ему подконтролен, где то в горах в пещерах будет строится техно завод по производству ОБЧР.
>>4549771>АРЯЯ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ РАСИСТ И УГНЕТАТЕЛЬ!!! ЗОПРЕТИТЬ!!!Ну так западная цивилазация и падет а китай возвысится, пока на западе будут определять кто имеет больше прав, трансгендеры или гомосеки, китай уже будет покорять роботами другие планеты.
>>4549153 (OP)Когда то я бы их подержал, но мы уже на той стадии развития технологии где только высшие слои выигравают. Эта биометрия и анальная слежка стали gamechanger и кардинально отличаются от предыдущих ламповых 60е-90е\2000е, когда баланс свободы и безопастности был идеален.Да и другие аспекты (например роботизация и компьютеризация различных работ), хотя там ещё можно как то поспорить и не все однозначно...Так что разработка ИИ который сунет всё человечество в ту же жопу, и сильных, умных, способных, альфачей илиток и слабых, тупых, омежек, олегов и разрушит нынешнюю (или ближайще будущую) систему- уже не кажется таким отрицательным явлением.
