TG Telegram Group & Channel
Kantor.AI | United States America (US)
Create: Update:

🏌️Каких рисков боятся крестные отцы AI: часть 2

Вот конкретные механизмы, которые пионеры AI упоминают в своих выступлениях и интервью:

🔴 Йошуа Бенжио беспокоится о появлении автономных агентов, способных ставить собственные цели и оптимизировать их вне рамок, заданных человеком.
Речь не о злом ИИ, а об ИИ, у которого цели не совпадают с нашими.

🟠 Джеффри Хинтон делает акцент на внезапности и необратимости появления ИИ, способного манипулировать людьми лучше самих людей — например, под видом помощника или советника.

ИИ, способный сам обучать себя, писать код, копировать себя в облаке и обманывать системы контроля может "выйти из-под контроля" даже без злого умысла.

Возможная перспектива - армия дешёвых цифровых агентов, которые могут распространять фейки и дестабилизировать общество или внедряться в стратегические решения на уровне стран.

🟢 Янн ЛеКун — скептик экзистенциальных угроз, но признаёт возможность злоупотреблений ИИ со стороны людей (не самого ИИ) и считает это основным вектором риска.
Он опасается не «восстания машин», а усиления уже существующих систем давления и неравенства с помощью ИИ.

🏌️Каких рисков боятся крестные отцы AI: часть 2

Вот конкретные механизмы, которые пионеры AI упоминают в своих выступлениях и интервью:

🔴 Йошуа Бенжио беспокоится о появлении автономных агентов, способных ставить собственные цели и оптимизировать их вне рамок, заданных человеком.
Речь не о злом ИИ, а об ИИ, у которого цели не совпадают с нашими.

🟠 Джеффри Хинтон делает акцент на внезапности и необратимости появления ИИ, способного манипулировать людьми лучше самих людей — например, под видом помощника или советника.

ИИ, способный сам обучать себя, писать код, копировать себя в облаке и обманывать системы контроля может "выйти из-под контроля" даже без злого умысла.

Возможная перспектива - армия дешёвых цифровых агентов, которые могут распространять фейки и дестабилизировать общество или внедряться в стратегические решения на уровне стран.

🟢 Янн ЛеКун — скептик экзистенциальных угроз, но признаёт возможность злоупотреблений ИИ со стороны людей (не самого ИИ) и считает это основным вектором риска.
Он опасается не «восстания машин», а усиления уже существующих систем давления и неравенства с помощью ИИ.
Please open Telegram to view this post
VIEW IN TELEGRAM


>>Click here to continue<<

Kantor.AI




Share with your best friend
VIEW MORE

United States America Popular Telegram Group (US)