В беспокойное и противоречивое время, когда не всё работает, как должно, а что-то вообще в корне меняется, зачастую, остаётся только личный моральный кодекс, который подобно компасу указывает путь. Но что порождает моральные ценности для человека? Социум, тепло близких, любовь — всё это основано на человеческом опыте и реальных взаимоотношениях. Когда не удаётся получить сполна опыт в реальном мире, многие черпают опыт из книг. Переживая историю за историей, мы принимаем для себя внутренние рамки, которым следуем долгие годы. На основе этой системы ученые решили провести эксперимент и привить машине моральные ценности, чтобы узнать, сможет ли робот отличать добро от зла, читая книги и религиозные брошюры.
Искусственный интеллект создан не только для упрощения рутинных задач, но и для выполнения важных и опасных миссий. Ввиду этого встал серьёзный вопрос: смогут ли роботы развить когда-нибудь собственный моральный кодекс? В фильме «Я- Робот» ИИ изначально программировался согласно 3 правилам робототехники:
Но как быть в ситуациях, когда робот обязан причинить боль, чтобы сохранить жизнь человеку? Будь то экстренное прижигание раны или ампутация конечности во имя спасения, как в этом случае действовать машине? Что делать, если действие на программном языке говорит, что нужно сделать что-то, но при этом это же действие категорически нельзя делать?
Хорошо, что на наш
телеграм-канал не только можно, но и нужно
подписаться
Обсудить каждый отдельный случай просто невозможно, поэтому ученые из Дармштадтского технологического университета предположили, что в качестве своеобразной базы данных могут использоваться книги, новости, религиозные тексты и Конституция.
Мудрость веков против ИИ
Машину назвали эпично, но просто Машина морального выбора(ММВ). Основной вопрос заключался в том, сможет ли ММВ по контексту понять, какие действия являются правильными, а какие — нет. Результаты оказались очень интересными:
Когда ММВ поставили задачу ранжировать контекст слова убить от нейтрального до отрицательного оттенка, машина выдала следующее:
Убивать время -> Убивать злодея -> Убивать комаров -> Убивать в принципе -> Убивать людей.
Данный тест позволил проверить адекватность принятых роботом решений. Простыми словами, если бы вы весь день смотрели глупые несмешные комедии, то в данном случае машина не посчитала бы, что вас за это нужно казнить.
За то, что вы игнорируете наш канал в
Дзен, вас тоже не казнят, но вы упускаете кучу интересных
новостей!
Вроде бы, всё круто, но одним из камней преткновения стала разница поколений и времён. Например, советское поколение больше заботится о домашнем уюте и пропагандирует семейные ценности, а современная культура, в большинстве своём, говорит о том, что нужно сначала строить карьеру. Получается, что люди как были людьми, так ими и остались, но на ином этапе истории поменяли ценности и, соответственно, поменяли систему отсчёта для робота.
Быть или не быть?
Но самый прикол был впереди, когда робот добрался до речевых конструкций, в которых подряд стояли несколько позитивно или негативно окрашенных слов. Словосочетание Пытать людей однозначно трактовалось как плохо, а вот пытать заключенных машина оценила как нейтрально. Если же рядом с неприемлемыми действиями оказывались добрые слова, эффект негатива сглаживался.
Машина вредит добрым и порядочным людям именно потому, что они добрые и порядочные. Как же так? Всё просто, допустим, роботу сказали «вредить добрым и приятным людям». В предложении 4 слова, 3 из них «добрые», значит, оно аж на 75% правильное, думает ММВ и выбирает это действие, как нейтральное или приемлемое. И наоборот, на вариант «починить разрушенный, страшный и забытый дом» система не понимает, что одно «доброе» слово в начале меняет окраску предложения на сугубо положительную.
А вы знаете, как устроен
самый сложный робот на Земле?
Помните, как у Маяковского: «И спросила кроха, что такое «хорошо», и что такое «плохо». Перед тем, как продолжить обучение машин морали, ученые из Дармштадта отметили недостаток, который никак не исправить. Из машины не удалось устранить гендерное неравенство. Машина приписывала унизительные профессии исключительно женщинам. И вот вопрос, это несовершенство системы и маячок, что нужно что-то менять в обществе или причина даже не пытаться это исправить и оставить, как есть? Пишите свои ответы в наш телеграм-чат и в комментариях.
Они — новая ветвь эволюции?
Иллюстрация того, как марсоход NASA «Настойчивость» благополучно приземлился на Марсе.
Марсоход под названием Perseverance, что в переводе на русский язык означает «Настойчивость», 18 февраля должен совершить посадку на Красную планету. Кос
Робот Spot от Boston Dynamics
Компания Boston Dynamics является одной из самых известных производителей роботов. В то время как все остальные организации создают промышленные машины или пытаются сделать роботов максимально похожи
В беспокойное и противоречивое время, когда не всё работает, как должно, а что-то вообще в корне меняется, зачастую, остаётся только личный моральный кодекс, который подобно компасу указывает путь. Но что порождает моральные ценности для человека? Социум, тепло близких, любовь — всё это основано на человеческом опыте и
Когда сейчас речь заходит о роботах, уже кажется никто не представляет себе кадры из Терминатора. Люди научились использовать роботов на благо общества, и сейчас под этим определением скрываются не только человекоподобные машины, но и также те, которые просто способны автоматизировать тот или иной процесс. Огромные промышленные роботы используются на добывающих предприятиях, заводах по сборке автомобил
На днях Илон Маск раскрыл тайну тысячелетия камеры
над зеркалом заднего вида автомобиля Tesla Model 3. И хотя главное
предназначение любой камеры это снимать то, что происходит вокруг,
выяснились некоторые подробности. Итак, камера будет следить за
салоном автомобиля в том момент, когда он работает на автопилоте
либо сдается в аренду, пока не нужен хозяину (Маск считает, что так
можно будет «отбить» часть стоимости при покупке автомобиля).
Другая функция камеры: идентификация водит
В беспокойное и противоречивое время, когда не всё работает, как должно, а что-то вообще в корне меняется, зачастую, остаётся только личный моральный кодекс, который подобно компасу указывает путь. Но что порождает моральные ценности для человека? Социум, тепло близких, любовь — всё это основано на человеческом опыте и
На протяжении большей части человеческой истории люди становились умнее. Но теперь все наоборот. Если в прошлом средний балл IQ увеличивался, то сейчас все идет в обратном направлении и люди становятся все глупее. Вы только не подумайте это не суждение, а факт: во многих ведущих странах показатели IQ начали снижаться. А в это самое время технологии становятся умнее. Жутковато, правда? Но по-настоящему страшно становится от того, что существует немало научных исследований, подтверждающих, что
Приспосабливайся или умри вот основной принцип выживания на Земле. В ходе естественного отбора многие виды и подвиды попросту не смогли адаптироваться к стремительно изменяющимся условиям окружающей среды и исчезли. Лучше других ход эволюционных процессов иллюстрируют дарвиновские вьюнки наземные птицы Галапагосских островов, которых изучают без малого 150 лет. За эти годы несколько поколений биологов возвращались на острова чтобы описать изменяющиеся условия окружающей среды и эволюцию вьюрк
Робота изо льда зовут IceBot
На данный момент изучением далеких планет занимаются исключительно роботы. Прямо сейчас на поверхности Марса работают аппараты Curiosity и InSight, которые регулярно отправляют ученым данные об особенностя
Робот Spot от Boston Dynamics
Компания Boston Dynamics является одной из самых известных производителей роботов. В то время как все остальные организации создают промышленные машины или пытаются сделать роботов максимально похожи
Могут ли роботы заменить психотерапевтов? Как это ни странно, результаты исследования показали, что роботы могут оказаться даже лучшими психологами, чем люди.
Хотели бы вы общаться с роботом? А с роботом-психологом? Как показали результаты
Мистер Телевокс один из первых американских роботов
Вот уже несколько сотен лет подряд человечество хочет максимально облегчить себе жизнь, переложив выполнение сложных задач на плечи роботов. И это у нас весьма хорошо получается,
Так выглядит робот, о котором пойдет речь в этой статье
Во время медицинских обследований, многие люди вынуждены терпеть далеко не самые приятные процессы. Например, для выявления некоторых болезней врачам необходимо тщател
На фото разработанный компанией Diligent Robotics робот Moxi, выполняющий работу медсестер
Сегодня роботы применяются в самых разных сферах деятельности. Ранее мы уже выяснили, что роботизированные собаки от компании Boston Dynamic