![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vitus_wagner) wrote2021-03-10 09:47 am
Мозги Геца фон Берлихингена
До меня дошло, что напоминают мне все эти стенания по поводу искусственного интеллекта, который глупых людишек поработит. Готические страшилки про инфернальную магико-механическую руку, которая самостоятельно лазает по стенам и душит наследников хозяина.
Интеллект, как и рука - это такой человеческий орган, позволяющий решать задачи по преобразованию природы. Надо сказать что человеческая рука, пожалуй, более уникальный орган, чем его интеллект. Руки наших ближайших родственников - шимпанзе и бонобо, отличаются от человеческих в плане мелкой моторики примерно так же, как их интеллект от нашего. И если достаточный уровень интеллекта мы готовы признать за дельфинами и псовыми хищниакми, то таких рук больше ни у кого нет.
Человечество до сих пор находится в плену картезианского "Мыслю, следовательно существую", причем неверно истолковывает его как тождественность личности интеллекту. Что в общем имеет не больше смысла чем тождественность личности рисунку сетчатки или папиллярных линий на кончике пальца.
Поэтому искусственный интеллект, ежели он и будет создан, будет чем-то вроде искусственной руки. Стрелы крана или экскаватора, промышленного робота-манипулятора. И то и другое - штука безусловно полезная и расширяющая возможности человеческого социума. Но вне этого социума абсолютно неработоспособное, так как нужна довольно сложная обеспечивающая инфраструктура - от смазки шарниров до постановки задач.
Чего надо бояться, так это искусственной воли. Ибо, как пишет Слава Рожков, Болезнь современного нам общества - паралич воли. А если людям чего-то не хватает, они начинают изобретать протезы. А все мы знаем, кого называли Людьми Длинной Воли. 800 лет прошло, а помним.
no subject
А интеллекту будет пофигу, потому что какие-то там моральные страдания его не научили учитывать.
no subject
Еще во времена Морица Оранского научились посредством карьеры в армейских и чиновничьих иерархиях то ли отбирать, то ли надрессировывать людей так, чтобы они учитывали моральные страдания разве что в форме получения удовольствия от их причинения.
Так что компьютер, не учитывающий моральные страдания совсем, будет большим прогрессом по отношению к современным власть имущим, которые эти страдания целенаправленно причиняют и получают от этого садисткое удовольствие.
no subject
Еще не могу не заметить, что обсуждение ограничений для AI (людишек унижать нельзя, бить по ночам током нельзя, в биореактор нельзя итп) слишком уж напоминает обсуждение протокола капитуляции, причём с побеждённой стороны :)
no subject
Из которых ничего не выйдет. Вон, GPT-3 уже сколько практически никому не дают? И все потому, что не могут придумать, как сделать так, чтобы оно не писало чего не нужно. А это ну совсем не 'интеллект', а хороший инструмент, чтобы налить красивой воды на любую избранную тему.
no subject
Неправильно. Мы не заметим, что это нам компьютер сказал. Потому что сложность происходящего в голове не поместится.
И не поймем, что это не естественная смертность, а оптимизированная компьютером поставка чего-нибудь нужного. Так же как не поймем, что "миллиард - колонизировать венеру и меркурий" - это побочный эффект разработанной компом рекламной компании по продаже синтетической еды.
no subject
no subject
у Лема в "сумме технологий" почему-то считалась невозможной многопользовательская фантоматика. Хотя на практике любая сколько-нибудь серьезная виртуальная реальность непременно вырастает в MMOPRG.
Вообще у Лема как неразрешимые затыки рассматривается много каких вещей, на которые в реальности человечество просто не обратило внимание и пошло мимо.
no subject
Не помню, что там было про невозможность мультиплеера.
Ну, оно работает как раз так, как описано. Но людям нравится. А Лем всегда ругался на примитивизм массовой культуры.
no subject
no subject
так вроде бы про это и была вся связанная с этим фантастика: наличие интеллекта создаёт возможность для появление личности со своей волей.
no subject
Оффтопик, но, мне кажется, тебе понравится: я тут буквально только что (минуты назад) прочитал в яндекс-новостях про проект закона об освобождении чиновников от ответственности за коррупцию, если оная коррупция произошла по независящим от них обстоятельств (типа стихийных бедствий). Минуты три пытался понять, как это коррупция может возникнуть в результате стихийных бедствий, и вдруг понял! Они считают "коррупцией" любое принятие чиновником решений! (сначала хотел написать "самостоятельных", но потом понял, что это тавтология -- любое решение по определению "самостоятельное").
Типа, в норме чиновник должен быть машиной по исполнению инструкций, а если он что-то сам решил, то всё -- коррупционэр, турьма. Но, видимо, в условиях внезапного ковида и других бедствий даже чиновники были вынуждены иногда поступать не по инструкции (написанной для мирного времени), а потом идти под суд... и вот их жалобы "за что? мы пытались хоть что-то сделать в этих идиотских условиях!" таки были услышаны даже в госдуме. И типа решили хотя бы в условиях стихийных бедствий самостоятельные решения им не то чтобы вот прямо разрешить, но хотя бы сказать "вы, конечно, всё равно виноваты, но наказывать, так и быть, не будем". По-моему, так.
Ответ онтопик тоже напишу, но потом. Если не забуду. Там всё сложно.
... Мои мечты совсем не так просты ...
no subject
no subject
Так это давно так уже, фактически, полное расчеловечивание (а обкладывание информационными системами и просто лишает возможности принятия решений). Причём тут возникает вопрос, а в чём тогда разница по иерархии, в повышении способности с самостоятельным действиям или наоборот в понижении.
no subject
no subject
А теперь и не очень в зачаточном (вроде новых экспериментальных систем, которые сами потихоньку учаться придумывать всё более сложные задачи и параллельно придумывать методы их решения). А поскольку люди, которые это делают, твердо говорят, что хотят "Open-ended AI", который сам будет исследовать, что может быть нового, интересного, и продуктивного, и, судя по их track record, вполне способны, то [...]
no subject
Разве? Насколько я помню архитектуру ЭВМ, желанием там и не пахнет.
no subject
Как неустанный наркоман - хвать следующую инструкцию по program counter и выполняет её, хвать и выполняет...
Как марафонец какой, только при этом и вовсе не останавливается. Как неустанная версия белки в колесе...
no subject
Я бы этот процесс желанием не называл. Тогда и про сердце, например, можно написать, что оно желает биться.
То есть, мне кажется, что термин желать подразумевает какую-то волю, а у автомата воли нет.
no subject
Впочем, это "отсутствие выбора" всегда было некоторым преувеличением, а у современных машин - тем более. Но это более хитрый вопрос. Воля - это просто движок, импульс к действию; решать, куда его направить, это уже следующий уровень (который вообще не будет работать при отсутствии импульса к действию; принять решение тоже ведь невозможно без разных "шевелений мозгами"; так или иначе, решение, куда направить, это уже "зона интеллекта", воля - это стремление направить действие куда-нибудь).
***
Сердце конечно желает биться - те же механизмы, что и с проводимостью нервных импульсов. Рецепторы, сигналы, просто когда мышцы, то есть ещё и физические актуаторы прямо там же, а в мозгу - только регуляция мощности потока крови в зависимости от "локальной силы мысли" (плюс нервные импульсы за пределы мозга, чтобы частично контролировать внешние мышцы).