vitus_wagner | Шнайер как этатист

Шнайер тут написал довольно объемное эссе про AI и доверие. Интересно что все очень логичные и разумные тезисы, которые он там приводит, нужны чтобы сделать вот такой вывод:

But we can make them into trustworthy services—agents and not double agents. But only if government mandates it. We can put limits on surveillance capitalism. But only if government mandates it.

Because the point of government is to create social trust. I started this talk by explaining the importance of trust in society, and how interpersonal trust doesn’t scale to larger groups. That other, impersonal kind of trust—social trust, reliability and predictability—is what governments create.

То есть единственной защитой от произвола корпораций он полагает государство. Понятно почему анархо-мутуалист alex_rozoff его так не любит.

Threaded | Flat

From:

phd_ru

— Есть ли жизнь на Марсе?
— Тоже нет.

В смысле, ничего не поможет. И государство не поможет, скатится в авторитаризм с тайной полицией. Нет выхода. Во всяком случае, я не знаю.

From:

jno

Ну, не жил он в подходящих государствах - вот и верует во что ни попадя.

From:

jno

ChatGPT conclusion on that article:

Bruce Schneier's article "AI and Trust" highlights the critical role of trust in society and discusses the potential challenges and risks associated with artificial intelligence (AI). Here are some key points and reflections:

Two Types of Trust:
Schneier distinguishes between interpersonal trust and social trust. Interpersonal trust is based on personal connections, while social trust relies on the predictability and reliability of systems. He argues that the confusion between these two types of trust may increase with the advent of AI.
AI as Services, Not Friends:
Schneier cautions against the common tendency to anthropomorphize AI, treating them as friends when they are essentially services. He draws parallels with corporations, emphasizing that corporations are profit-maximizing entities, not moral agents.
Corporate Control and Exploitation:
The author expresses concern that corporations controlling AI systems may take advantage of the confusion between interpersonal and social trust to exploit users. He argues that corporations are profit-driven and may not always act in the best interest of users.
Relational and Intimate AI:
Schneier predicts that AI systems, particularly those with natural language interfaces, will become more relational and intimate. Users may be inclined to trust them as friends, despite their fundamentally service-oriented nature.
Challenges of Trusting AI:
The article highlights potential failures in trusting AI, including hidden exploitation, fraud, mistaken expertise, incompetency, inconsistency, and illegality. These failures could arise due to the lack of transparency and understanding of AI behavior, biases, and training.
The Need for Trustworthy AI:
Schneier emphasizes the importance of trustworthy AI, where the behavior, limitations, biases, and training of AI systems are well-understood. He argues that the market alone may not provide this, and government intervention is necessary.
Government Regulation and AI Transparency Laws:
The author suggests that government regulations should focus on AI transparency, safety, and the trustworthiness of AI controllers. He calls for laws that enforce accountability and penalties for untrustworthy behavior.
Public AI Models:
Schneier advocates for the development of public AI models built by academia, non-profit groups, or governments. These models would be owned and run by individuals, providing an alternative to corporate-owned AI.
Government's Role in Creating Trust:
The overarching theme is that the role of government is to create social trust by constraining the behavior of corporations and the AIs they deploy. Government intervention is seen as essential to ensuring predictability and reliability in society.

In conclusion, Schneier argues for a regulatory framework that prioritizes transparency, accountability, and the creation of trustworthy AI systems to mitigate potential risks and abuses in the evolving landscape of artificial intelligence.

Edited Date: 2023-12-04 04:48 pm (UTC)

From:

nataraj

Не в ту сторону он движется...

Государство появилось как инструмент позволяющий координировать усилия... То есть появлялось оно не для этого, но именно эта полезная функция позволила государству существовать... Объединенные в государство люди оказались способны эффективно реализовывать крупные проекты, на которые порознь не способны.

Капитализм следующая форма координации усилий, на определенном множестве задач более гибкая и эффективная чем государство. При этом государство она не отменяет, а скорее дополняет.

Чтобы компенсировать недостатки капитализма обществу надо двигаться не назад к государству, а куда-то вперед. К какому-то иному более прогрессивному способу синхронизации действий. Думаю что оно должно вырасти из системы комьюнити. Вроде той которая возникла вокруг СПО, когда каждая комьюнити может и умеет самоорганизовываться для решения своих целей и задач. Некоторые могут усмотреть в этом элемент анархии. Но точно так же ее там можно и не усмотреть.

Edited Date: 2023-12-04 05:14 pm (UTC)