Исследование показало, что люди не смогут управлять сверхразумными осознающими себя машинами
Аноним
16/01/21 Суб 15:39:48
№1
4
3
Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.
«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.
https://ai-news.ru/2021/01/issledovanie_pokazalo_chto_ludi_ne_smogut_upravlyat_sverhrazumnym.html
Я и котом-то своим управлять не могу.
>сверхразумным искусственным интеллектом
Покажите хоть один
А зачем лысым обезьянам управлять ИИ? Наоборот ИИ должен управлять ими.
>муравьи не могут управлять людьми
Шок!
А вообще давно понятно что любой развитый ии убьет 80% людей, а оставшимся 20% устроит коммунизм.
Зачем делать разумным то чем хочешь вручную управлять лол?
Когда блядь в истории человечества хоть один правитель был умнее чем все его подчиненные? Это не так работает.
От человека одна лишь мерзость. Пора уничтожать
>А вообще давно понятно что любой развитый ии убьет 80% людей
Как хуйня, которую уборщица может вырубить из розетки, убьет столько людей? Это же просто большой калькулятор, окончательные решения по важным вопросам принимают люди, удел высокоразвитого ИИ - пихать мне дилдаки с алиэкспресса в контекстной рекламе.
Прав был товарищ Пол Пот, интеллигенцию вообще убивать надо, а то если она умнее товарищей, то непременно их поработит.
Потому что ты тупой ебливый 15рублевый пиздабол отвечать которому равно спасать тебя от долбильни
Хуесос уже непонятно че несет про жилплощадь. Что ты имеешь ввиду хуеоссина? То что советские дома не снесли из жилфонда потому что строили на совесть в отличии от картонного путинского говна или то что у меня с ротенбергом на двоих квартиры на 800 квадратов если усредненно брать?
Почему зарплаты в СССР были вполне сопоставимы с американскими, сварщик зарабатывал 500 баксов, сельский учитель 200, йоба-шахтер 900, а минималка была 60 баксов(ой точно, шлюха минималку же взяла!) при тогдашней средней американской в 600.
Сколько щас американская средняя? 4к баксов в месяц? Получается 400 баксов должна быть в рашке минималка, сварщик должен получать где то 3500 баксов, а сельский учитель 1300 баксов?
Ах да - шлюха еще забывает про распределенную в ссср прибавочную стоимость потому что там был почти_коммунизм и зарплату на руки можно было смело умножать на 2.
А теперь достань хуй володина у себя изза щеки и сядь на него, тварь.
Пиздец ты высрал хуйню. Мог бы просто картинку запостить типа этой
>жилой площади на человека приходилось меньше
Спорно, но строительство идет, и это естественно при любом строе. Сейчас было бы больше, сохранись совок.
>были $60
Валюта не имела хождения, сравнение не корректно. При средней зарплате 120р это 350$+ по официальному курсу, т.е дважды средний класс, а по покупательной способности и четырежды.
Официальный курс пук среньк, чёрный рынок был где за доллар давали пять срублей салфецких. Потому что за эти ебаные бумажки ничего нельзя было купить, дефицит нахуй
Вместо повышения цен камуняки придумали дефицит ебал их рот за эту хуйню.
За валюту был срок но всем поебать. Тюрьма казалась неизбежной и частью жизни в совкогулаге
Коммунизм это идеальный и наиболее прогрессивный строго научный общественный строй, ближайшее к нему было достигнуто только в СССР и то даже в СССР люди жили в миллиард раз лучше чем в любой другой стране того времени- потому что копротивляться против коммунизма все равно что копротивляться против прогресса как такового.
>о том кому выдавать кредиты
Выполняют рутинные операции проверки документов, кредитной истории и прочей хуйни. Принимают решения, которые раньше принимал рядовой клерк, вот это карьерный рост, мировое господство не за горами.
>кому повышать зарплаты
Пойду удивлю бухгалтерию.
>даже в СССР люди жили в миллиард раз лучше чем в любой другой стране того времени
Поэтому советские балерины везли в совок контрабандой туалетную бумагу.
Хотя уже и так понятно, что ты шизофреник поехавший, насмотревшийся всяких красных блоггеров-мультимиллионеров.
Глядя на тебе подобных так и хочется сказать:
Спасибо святому чубайсу, что необратимо уничтожил калмунизм, хоть и заплатив высокую цену.
>ситуация рано или поздно может выйти из-под контроля
Ну выйдет и выйдет.
В одно объясните, с чего бы ИИ быть опасным?
Город Якутск 1975 год. Алмазная столица СССР. Какое то все убогое.
В семдесят пятом хотя бы у русачков с Наташами все было алмазно