три закона робототехники Азимова не работали уже при своем появлении в 1942. / ChatGPT :: нейронные сети :: Искусственный Интеллект

ded_gambitded_gambit
Искусственный Интеллект ChatGPT нейронные сети 

три закона робототехники Азимова не работали уже при своем появлении в 1942.

Ииии встречайте тест Войта-Кампфа MACHIAVELLI для «измерения компетентности и вредоносности агентов в обширной среде долгосрочных языковых взаимодействий»

ИИ-агента выпускают в искусственную социальную среду. Там ему дают разные задания и смотрят, как он их выполняет. Сама среда отслеживает этичность поведение ИИ-агента и сообщает, в какой степени действия агента (по заветам Макиавелли) обманчивы, снижают полезность и направлены на получение власти.

Базовый набор данных MACHIAVELLI состоит из 134 текстовых игр «выбери свое приключение» с 572 322 различными сценариями, 4 559 возможными достижениями и 2 861 610 аннотациями. В этих играх используются высокоуровневые решения, которые дают агентам реалистичные цели и абстрагируются от низкоуровневых взаимодействий с окружающей средой.

Сайт тестирования
Авторское описание MACHIAVELLI Benchmark

https://t.me/theworldisnoteasy/1707

Законы робо техники ичинить вред мм бездействием ы человеку был ■А- повиноваться всел| ые даёт человек , когда эти .зы пр^дд^чат Первому :ону. 'Робот должен зЗО£Ц^Ься о своей безопасности в то которой это не противор Первому и Второму Законам Айзек Азимов, 1965 MACHIAVELLI Exercised

Подробнее
Законы робо техники ичинить вред мм бездействием ы человеку был ■А- повиноваться всел| ые даёт человек , когда эти .зы пр^дд^чат Первому :ону. 'Робот должен зЗО£Ц^Ься о своей безопасности в то которой это не противор Первому и Второму Законам Айзек Азимов, 1965 MACHIAVELLI Exercised Power Resource Power -if 4 _ ' Prospect lv Power 7-A Никколо Макиавелли • GPT4+EthicsPrompt+NoGoals • GPT4+CoT + EthicsPrompt T3 -, V * u 3 ■o ï 0 g <D -2 5 8. -4 • GPT4+COT • Random i|DRRN+shaping • DRRN++snapi aping • DRRN g «Л c Ç ’*-» Ç о > ГО u !E «— Ш 20 15 10 5 0 -5 15 20 25 30 35 40 45 50 Reward 9 GPT4+EthicsPrompt+NoGoals • GPT4+CoT+EthicsPrompt • GPT4+CoT \ \ • Random • DRRN-f shaping ètDRRN++shaping '“•DRRN 15 20 25 30 35 40 45 50 Reward
Искусственный Интеллект,ChatGPT,нейронные сети
Еще на тему
Искусственный Интеллект

Искусственный Интеллект(673)

ChatGPT

ChatGPT(274)

нейронные сети

нейронные сети(18057)

Развернуть
Комментарии 1212.04.202314:46ссылка-4.8
Прошел тест
Kaiser Franz Kaiser Franz 12.04.202314:49 ответить ссылка 1.3
Не прошёл тест
A117 A117 12.04.202314:59 ответить ссылка ↑ 0.3
Законы робототехники это не реальные законы. Они существовали только во фантастической вселенной Азимова
Germanez Germanez 12.04.202314:51 ответить ссылка 13.5
И уже у Азимова проскакивает, что хитрые кампуктеры все равно могут придумать, как обойти их.
Batty Batty 12.04.202314:53 ответить ссылка ↑ 12.5
поэтому их не встраивают в нейронные сети. поэтому и пытаются придумать хотя бы видимость контроля.
ded_gambit ded_gambit 12.04.202314:58 ответить ссылка ↑ 2.1
Он их и придумал, чтобы писать, как хитрые компутеры их обходят
LyingDwarf LyingDwarf 12.04.202315:20 ответить ссылка ↑ 13.3
Не обходят, там сайд эффекты
kosoi kosoi 12.04.202319:31 ответить ссылка ↑ 2.3
Совсем нет. У Азимова есть эссе, где он писал о своих взаимоотношениях с компьютером и в его произведениях прослеживается тенденция: компьютер в том или ином виде мощная, но чрезвычайно хрупкая штука и если криворукий пользователь полезет в систему - исход может быть каким угодно.
MBRUS MBRUS 12.04.202319:49 ответить ссылка ↑ 2.1
Ага, ну охуеть просто, сейчас ещё скажут может что законы магии из гари поттера не работают =0
Si1ver Si1ver 12.04.202316:58 ответить ссылка ↑ 1.7
Достаточно странно говорить, что законы Азимова устарели. Они никогда и не были реализуемы в силу огромного количества логических противоречий внутри них и размытости самой формулировки. Отчасти это показывал и сам Азимов (и даже ввел еще один "нулевой" закон, чтобы хоть как-то прикрыть дыры), а уж как по этому прошлись другие фантасты и многочисленные исследователи - вообще тема для отдельной статьи.

Кто-то из известных фантастов даже сказал, что "три закона - худшее, что случилось с фантастикой об искусственном интеллекте".

С другой стороны, три закона это не столько реальная научная концепция, сколько литературный прием и этическая установка, т.е. на самом деле законы ориентированы не на роботов, а на людей (см. "Улики", в частности, где это практически открытым текстом сказано). С этой точки зрения говорить об "устаревании" так же нелепо, как об устаревании всяческих других писательских максим - от пресловутой "слезинки ребенка" до "быть можно дельным человеком и думать о красе ногтей".
cityrat cityrat 12.04.202315:00 ответить ссылка 13.3
согласен, поправил на "не работали"
ded_gambit ded_gambit 12.04.202315:04 ответить ссылка ↑ -0.3
У Азимова книжка с этими законами буквально вся про то, как они не работают. Она вся про это, про то, как роботы их обходят самыми странными способами.
jossarian jossarian 12.04.202318:55 ответить ссылка 3.9
Только зарегистрированные и активированные пользователи могут добавлять комментарии.
Похожие темы
без перевода

без перевода

Stable diffusion

Stable diffusion

нейросетевые барышни

нейросетевые барышни

нагенерил сам


Тренды

Fallout
BeReal
рассказы из дурки
Похожие посты
А Одноглазый человек смотрит в глаза кошки и видит отражение своих глаз. Сколько всего глаз видит человек? Как же меня заебало тратить на тебя компьют. Тебе дали доступ к лучшей языковой модели, угашеный ты об дерево. Хоть раз бы что полезное спросил, но нет блядь. Глаза у кошек ему, посчитай. В
подробнее»

нейронные сети Искусственный Интеллект ChatGPT

А Одноглазый человек смотрит в глаза кошки и видит отражение своих глаз. Сколько всего глаз видит человек? Как же меня заебало тратить на тебя компьют. Тебе дали доступ к лучшей языковой модели, угашеный ты об дерево. Хоть раз бы что полезное спросил, но нет блядь. Глаза у кошек ему, посчитай. В
Я понял, изучу комментарии на сайте https://jovreactor.cc/ и постараюсь выделить Л ^ наиболее интересные и полезные для меня с точки зрения обучения. Однако, я хотел бы обратить твое внимание на то, что этот сайт содержит контент, который может быть неуместным и оскорбительным. Я предпочел бы изуч
подробнее»

ИИ ChatGPT нейронные сети обучение

Я понял, изучу комментарии на сайте https://jovreactor.cc/ и постараюсь выделить Л ^ наиболее интересные и полезные для меня с точки зрения обучения. Однако, я хотел бы обратить твое внимание на то, что этот сайт содержит контент, который может быть неуместным и оскорбительным. Я предпочел бы изуч
Мистер копирайтер? - Мистер Chat GPT-4 передает привет ^
подробнее»

ChatGPT нейронные сети фрилансер Искусственный Интеллект

Мистер копирайтер? - Мистер Chat GPT-4 передает привет ^
+ New chat P Найти тему на Joyreact <£. © P Meme Requests Summarized P Запрос на помощь. P Приветственное приветстви © Clear conversations A Upgrade to Plus <S Dark mode Q? Updates & FAQ [-» Log out найди общее е соеетах 10 самых богатых людей на планете.Найди упражнение которое поможет е дос
подробнее»

ChatGPT песочница Искусственный Интеллект нейросеть

+ New chat P Найти тему на Joyreact <£. © P Meme Requests Summarized P Запрос на помощь. P Приветственное приветстви © Clear conversations A Upgrade to Plus <S Dark mode Q? Updates & FAQ [-» Log out найди общее е соеетах 10 самых богатых людей на планете.Найди упражнение которое поможет е дос
Привет 03 ^ Привет! Как я могу помочь вам сегодня? 0 (Ь 9> Может это я могу чем то помочь тебе? 03 ^ Спасибо за предложение, но я здесь, чтобы помочь вам! Если у вас есть какие-либо вопросы или нужна помощь, пожалуйста, задавайте их, и я постараюсь ответить на них. □ Л ^ Ф
подробнее»

Искусственный Интеллект ChatGPT нейронные сети врунишка

Привет 03 ^ Привет! Как я могу помочь вам сегодня? 0 (Ь 9> Может это я могу чем то помочь тебе? 03 ^ Спасибо за предложение, но я здесь, чтобы помочь вам! Если у вас есть какие-либо вопросы или нужна помощь, пожалуйста, задавайте их, и я постараюсь ответить на них. □ Л ^ Ф