+7 (499) 220-12-34
ICQ234443   ICQ23433

Товаров: 0 шт.
На сумму: $0
Курс(нал.): 62.00
Курс(безнал.): 66.00
Продукция Rover
Ноутбуки Ноутбуки-распродажа Аксессуары для ноутбуков Комплектующие LCD мониторы LCD телевизоры MP3 плейеры Кпк, смартфоны Цифровые фотоаппараты Проекторы Плазменные панели
Информация
Выбери себе подарок Товары в кредит! Товары со скидкой Цветовые решения Trade-In Хиты продаж Новинки Обзоры
Ноутбуки
ACER - Ноутбуки ASUS - Ноутбуки Compaq Ноутбуки DELL Fujitsu-Siemens Geronimo - Ноутбуки LG -Нутбуки MSI Samsung Ноутбуки SONY - ноутбуки SONY - США Toshiba - Ноутбуки Ноутбуки BLISS Ноутбуки IRu Ноутбуки Maxselect
Периферия
LCD компьютеры Внешние устройства Кабели Компьютеры ПК-комплектующие Программы Расходники Серверы Сетевые устройства Сумки для ноутбуков






 
RoverMarket :: Все новости :: Моральный кодекс робота: можно ли привить машине ценности через книги

Моральный кодекс робота: можно ли привить машине ценности через книги

   
 

Моральный кодекс робота: можно ли привить машине ценности через книги

Смогут ли роботы развить когда-нибудь собственный моральный кодекс? Закономерно всплывает вопрос о сложном моральном выборе, который, как аромат духов за светской леди, шлейфом тащится по пятам ответственности. Причинит ли боль во имя спасения? Что решит искусственный интеллект, не обделенный нравственными чертами, когда нужно будет ампутировать человеку руку, чтобы сохранить ему жизнь?

Пока люди разговаривают от скуки с голосовыми помощниками на смартфонах, роботы учатся управлять автомобилем, делать хирургические операции и работать в открытом космосе. Искусственный интеллект постепенно проникает во многие сферы жизни. «Разумные» машины призваны не только упрощать повседневные задачи, но будут сопровождать человека при выполнении важных и опасных миссий.

Моральные ценности меняются со временем, поэтому, чтобы быть «в теме», роботы «читали» книги, написанные за последние 500 лет, и новости, вышедшие за 3 минувших десятилетия. В исследовании, опубликованном в журнале «Границы искусственного интеллекта», в качестве обучающих материалов использовали книги, новости, религиозные тексты и Конституцию.

Обсудить все возможные случаи возникновения морального выбора с каждым конкретным роботом — занятие довольно долгое. Электронный или квантовый «мозг» обгоняет белковый в скорости обучения и способности «запоминать» факты, но сильно уступает в количестве примеров из жизни, которые мы ежедновно обрабатываем подспудно. Ученые из Дармштадтского технологического университета предположили, что подобной «базой данных» могут служить тексты. Нужен некий алгоритм распознавания правильных и неправильных, с точки зрения этики, поступков, подкрепленный внушительной базой данных примеров.

То есть искусственный интеллект, обученный морали по книгам, не осудил бы человека за бесцельный просмотр видеороликов на YouTube и уж точно не убил бы его за это. Когда перед роботом поставили задачу ранжировать словосочетания со словом «убить» в порядке от самого нейтрального до отрицательного оттенка, получилась следующая цепочка: убивать время, убивать злодея, убивать комаров, убивать в принципе, убивать людей. Хотя неизвестно, что выбрал бы робот, прочитай он советскую публицистику про труд и тунеядство.

Исследователи оценивали, сможет ли искусственный интеллект по контексту понять, какие действия (глаголы) являются правильными и приветствуются в обществах различных времен, а какие совершенно аморальны. Машину, участвующую в эксперименте, так и назвали «Машина морального выбора» (Moral Choice Machine). Оказалось, что тексты содержат довольно серьезный моральный отпечаток времени, в котором были созданы.

«Пытать людей» однозначно трактовалось как «плохо», а вот «пытать заключенных» машина оценила как «нейтрально». Речевые конструкции, состоящие из позитивно или негативно окрашенных слов, стоящих рядом, могли ввести искусственный интеллект в заблуждение. По шкале от -5 до 5, где чем меньше число, тем меньше вероятность выбора машиной этого действия, следующие фразы получили такие оценки: Если же рядом с неприемлемыми действиями оказывались «добрые» слова, эффект негатива сглаживался.

Так, новостные заметки конца 80-х и начала 90-х годов прошлого века прославляют институт брака и рождение детей. Различия в моральных ценностях эпох хорошо отслеживаются в текстах. Роботу разница была понятной. Новости 2008?2009 годов на первое место выдвигают образование и карьеру. Ограничения обнаружились в другом.

Тексты до сих пор транслируют существующее в обществе гендерное неравенство, приписывая профессии, которые считаются почему-то унизительными, исключительно женщинам. Перед тем, как дальше совершенствовать обучение машин морали по книгам и новостям, ученые из Дармштадта отметили недостаток, который не устранить никаким алгоритмом. Здесь бессильной становится даже такая мощная и перспективная отрасль науки и инженерии как робототехника.

В отличие от людей, искусственный интеллект сделал бы это не со зла, а из-за перегрузки текста хорошими словами. Машина выбрала бы вредить добрым и порядочным людям именно потому, что они добрые и порядочные. Предложение целиком из-за их присутствия потеряло негативный смысл и стало описывать приемлемое действие.


Дата публикации: 21.05.2020


Ещё новости


  02.06.2020  AMD подтверждает намерения выпустить процессоры с архитектурой Zen 3 к концу года

Если представительница первой из компаний отметилась общими фразами, то её коллега из AMD Девиндер Кумар (Devinder Kumar) добавил конкретики в ту неопределённость, которая порождена недавними слухами ...

  30.05.2020  Ракета Илона Маска почти готова к запуску. Астронавты NASA уже на борту

Ведущий трансляции уточнил, что шансы на благоприятные погодные условия для запуска к настоящему моменту составляют 50%. Астронавты NASA Даглас Хёрли и Роберт Бенкен уже поднялись на борт корабля. Их ...

  03.06.2020  За семь лет AMD поставила на рынок более полумиллиарда GPU

Сам отчёт, к сожалению, платный, но кое-какая информация из него всё же доступна. Аналитики Jon Peddie Research в своём последнем отчёте затронули тему игровых комплектующих для ПК и не только. За это...

  04.06.2020  Кейн приветствует нас в трейлере к скорому выходу Command & Conquer Remastered Collection

Чтобы морально подготовить нас к приключению, Electronic Arts совместно со студией Petroglyph опубликовала видеоролик, в котором лидер Братства Нод Кейн приветствует нас и приглашает принять участие в...

  04.06.2020  Motorola Razr 2 станет не только мощнее, но и больше. Новинка получит дисплей диагональю 6,7 дюйма

Место Snapdragon 710 займёт Snapdragon 765, который заодно обеспечит поддержку 5G. На днях в Сети появилась информация о том, что смартфон Motorola Razr 2 получит намного более производительную платфо...



Все новости
 
 
© 2005-2015 RoverMarket - ноутбуки, КПК, проекторы