vitus_wagner | Шнайер как этатист

Шнайер тут написал довольно объемное эссе про AI и доверие. Интересно что все очень логичные и разумные тезисы, которые он там приводит, нужны чтобы сделать вот такой вывод:

But we can make them into trustworthy services—agents and not double agents. But only if government mandates it. We can put limits on surveillance capitalism. But only if government mandates it.

Because the point of government is to create social trust. I started this talk by explaining the importance of trust in society, and how interpersonal trust doesn’t scale to larger groups. That other, impersonal kind of trust—social trust, reliability and predictability—is what governments create.

То есть единственной защитой от произвола корпораций он полагает государство. Понятно почему анархо-мутуалист alex_rozoff его так не любит.

Flat | Top-Level Comments Only

From:

phd_ru

— Есть ли жизнь на Марсе?
— Тоже нет.

В смысле, ничего не поможет. И государство не поможет, скатится в авторитаризм с тайной полицией. Нет выхода. Во всяком случае, я не знаю.

From:

jno

Ну, есть определённая надежда на экономику, которой и нужен этот самый social trust.
При чём, натуральный, а не просто created.

Как говорится, на штыки можно опереться, но сидеть на них нельзя.

А уж форма, авторитаризм или демократия, с тайной или явной полицией (а то и просто - с "повесточкой", когда можно любого отБЛМить и наЛГБТКать) - вторична.

ЗЫ. Только это может быть очень долгой историей…

Edited Date: 2023-12-04 04:34 pm (UTC)

From:

phd_ru

Те, кто стоят у руля, предпочтут уничтожить экономику, но сохранить власть. Вечность так не прожить, но на пару поколений хватит.

From:

kotvsopagah

Поможет.
Законодательный запрет на юридические лица + полная информация про всё обо всех для всех.

From:

phd_ru

Эти законы кто-то должен исполнять, и их исполнение контролировать. И этот кто-то — опять государство, а оно почему-то некоторые законы очень плохо исполняет, а часто и вовсе нарушает. Особенно законы об ограничении государства. Кто ж его посадит, оно же государство.

From:

kotvsopagah

Как раз государство тут не нужно.
Поскольку и то и то (юридические лица и тайну личности) именно вводит и контролирует государство.

From:

phd_ru

Ну вот оно их вводит — и кто может возразить? Откуда возьмутся законодательные запреты? Кто и через какую систему власти проведёт эти законы, кто будет их исполнять? Наиболее реальный вариант — прилетят инопланетяне с Сириуса и всех нас спасут. Сами-то мы не в силах.

From:

kotvsopagah

Это достаточно один раз вести. Пускай и по дурости властей или случацности.

(no subject)

From:

phd_ru - Date: 2023-12-05 10:00 am (UTC) - Expand

From:

vitus_wagner

Шнайер - американец. Американцы почему-то уверены что они контролируют свое государство. Это еще Джек Лондон описывал в "Железной пяте". Он, конечно тоже американец, но после некоторого количества набитых шишек, понял что что-то тут не так.

From:

From:

sentoki_2 - Date: 2023-12-08 07:48 am (UTC) - Expand

From:

jno

Ну, не жил он в подходящих государствах - вот и верует во что ни попадя.

From:

jno

ChatGPT conclusion on that article:

Bruce Schneier's article "AI and Trust" highlights the critical role of trust in society and discusses the potential challenges and risks associated with artificial intelligence (AI). Here are some key points and reflections:

Two Types of Trust:
Schneier distinguishes between interpersonal trust and social trust. Interpersonal trust is based on personal connections, while social trust relies on the predictability and reliability of systems. He argues that the confusion between these two types of trust may increase with the advent of AI.
AI as Services, Not Friends:
Schneier cautions against the common tendency to anthropomorphize AI, treating them as friends when they are essentially services. He draws parallels with corporations, emphasizing that corporations are profit-maximizing entities, not moral agents.
Corporate Control and Exploitation:
The author expresses concern that corporations controlling AI systems may take advantage of the confusion between interpersonal and social trust to exploit users. He argues that corporations are profit-driven and may not always act in the best interest of users.
Relational and Intimate AI:
Schneier predicts that AI systems, particularly those with natural language interfaces, will become more relational and intimate. Users may be inclined to trust them as friends, despite their fundamentally service-oriented nature.
Challenges of Trusting AI:
The article highlights potential failures in trusting AI, including hidden exploitation, fraud, mistaken expertise, incompetency, inconsistency, and illegality. These failures could arise due to the lack of transparency and understanding of AI behavior, biases, and training.
The Need for Trustworthy AI:
Schneier emphasizes the importance of trustworthy AI, where the behavior, limitations, biases, and training of AI systems are well-understood. He argues that the market alone may not provide this, and government intervention is necessary.
Government Regulation and AI Transparency Laws:
The author suggests that government regulations should focus on AI transparency, safety, and the trustworthiness of AI controllers. He calls for laws that enforce accountability and penalties for untrustworthy behavior.
Public AI Models:
Schneier advocates for the development of public AI models built by academia, non-profit groups, or governments. These models would be owned and run by individuals, providing an alternative to corporate-owned AI.
Government's Role in Creating Trust:
The overarching theme is that the role of government is to create social trust by constraining the behavior of corporations and the AIs they deploy. Government intervention is seen as essential to ensuring predictability and reliability in society.

In conclusion, Schneier argues for a regulatory framework that prioritizes transparency, accountability, and the creation of trustworthy AI systems to mitigate potential risks and abuses in the evolving landscape of artificial intelligence.

Edited Date: 2023-12-04 04:48 pm (UTC)

From:

vitus_wagner

Никогда не понимал людей, которые не хотят читать хороший, качественный текст, а вместо этого польуются косноязычным дайджестом. Даже в те времена, когда эти дайждесты люди писали - не понимал.

From:

jno

Это - высказывание ИИ о тексте про ИИ :)

From:

nataraj

Не в ту сторону он движется...

Государство появилось как инструмент позволяющий координировать усилия... То есть появлялось оно не для этого, но именно эта полезная функция позволила государству существовать... Объединенные в государство люди оказались способны эффективно реализовывать крупные проекты, на которые порознь не способны.

Капитализм следующая форма координации усилий, на определенном множестве задач более гибкая и эффективная чем государство. При этом государство она не отменяет, а скорее дополняет.

Чтобы компенсировать недостатки капитализма обществу надо двигаться не назад к государству, а куда-то вперед. К какому-то иному более прогрессивному способу синхронизации действий. Думаю что оно должно вырасти из системы комьюнити. Вроде той которая возникла вокруг СПО, когда каждая комьюнити может и умеет самоорганизовываться для решения своих целей и задач. Некоторые могут усмотреть в этом элемент анархии. Но точно так же ее там можно и не усмотреть.

Edited Date: 2023-12-04 05:14 pm (UTC)

From:

vitus_wagner

Ну не он первый. Дедушка Ленин сто лет назад тоже пробовал этот путь.

From:

jno

Самоорганизация? У дедушки нечто подобное поминалось в работах, но вот откинулся он не дожидаясь окончания гражданской. Дальше уже пробовал дядюшка, у которого даже в теориях такого не было.

From:

nataraj

В смысле Ленин тоже предлагал повысить роль государства в контроле капитала? Тогда он тоже не прав...

Я заглядывая в Маркса пришел к мысли что он лет на 100 опередил историю... Возможность дешево копировать средства производства появилась только в цифровую эпоху. Что дает техническую возможность коллективно ими владеть, не дерясь за них. Зауважал...

From:

vitus_wagner

Ленин писал что монополизация капитала приведет к тому, что достаточно будет взять эту монополию под контороль государства (социалистического), чтобы она стала служить народу.

На самом деле ошибка у обоих была в том, что они преувеличивали роль собственности и вообще экономики. Как показал дальнейший ход истории, отношения контроля не сводятся к собственности.