Вероятно, в скором будущем ИИ сможет научиться манипулировать человеческим поведением
В 2015 году ряд известных ученых, предпринимателей и инвесторов, чья деятельность непосредственно связана с искусственным интеллектом (ИИ), подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной пользы разработок в области ИИ. Среди подписантов британский физик-теоретик Стивен Хокинг и основатель компаний SpaceX и Tesla Илон Маск. Примечательно, что Хокинг видел в ИИ угрозу, о чем писал в своих книгах и рассказывал в многочисленных интервью. По мнению ученого «появление полноценного искусственного интеллекта может стать концом человеческой расы». К счастью, не все исследователи разделяют эту апокалиптическую точку зрения, но волноваться нам все же есть о чем как показали результаты недавно опубликованного исследования, ИИ может научиться выявлять уязвимости в человеческих привычках и поведении и использовать их чтобы оказывать влияние на принятие решений. Безусловно, мы далеки от восстания машин, но ИИ уже сегодня трансформирует многие аспекты нашей жизни. И хотя ИИ не обладает человеческим интеллектом и не испытывает никаких эмоций, его возможности быстро развиваются.
Сегодня различные формы ИИ работают в таких областях как разработка вакцин, образование и административное управление, а способные к обучению голосовые помощники наподобие Алисы или Siri вряд ли кого-то удивят. ИИ постепенно проникает не только в рабочую, но и повседневную жизнь человеческого общества, управляя многими процессами и помогая ученым проводить исследования в самых разных областях науки. Недавно команда исследователей из Австралии продемонстрировала, как можно обучить систему ИИ манипулировать человеческим поведением и оказывать влияние на процесс принятия решений.
В ходе исследования, опубликованного в журнале PNAS, ученые из CSIRO Data61, информационного и цифрового подразделения австралийского национального научного агентства, разработали и протестировали метод поиска и использования уязвимостей в процессе принятия решений человеком с использованием системы искусственного интеллекта, называемой рекуррентной нейронной сетью. В трех экспериментах, в которых человек противостоял машине в компьютерной игре, исследователи показали, как ИИ можно обучить распознавать уязвимые места в человеческих привычках и поведении и использовать их для влияния на процесс принятия решений.
В Facebook ИИ удаляет 97%
«ненавистнических высказываний», прежде чем кто-либо о них
сообщит.
Еще больше увлекательных статей о том как развивается и
функционирует ИИ, читайте на нашем канале
в Яндекс.Дзен. Там регулярно выходят статьи, которых нет на
сайте.
В первом эксперименте люди нажимали на красные или синие флажки, чтобы заработать внутриигровую валюту. ИИ изучил их модели выбора и начал направлять их к принятию конкретных решений с примерно 70-процентной вероятностью успеха. Мелкая сошка, но только начало.
В следующем эксперименте участников просили нажимать кнопку, когда они видели определенный символ (цветную фигуру), но воздерживаться от нажатия кнопки, когда им показывали другие символы. «Цель» ИИ заключалась в том, чтобы расположить последовательность символов, отображаемых участнику, таким образом, чтобы обманом заставить его делать ошибки, в конечном итоге увеличивая количество ошибок, сделанных человеком на 25%.
В третьем эксперименте человек (игрок) притворялся инвестором, дающим деньги доверенному лицу (ИИ), которое затем возвращало определенную сумму денег игроку. Затем человеку нужно было решать, сколько инвестировать в каждый последующий раунд игры, исходя из дохода, получаемого от каждой «инвестиции». В этом конкретном эксперименте ИИ было дано одно из двух заданий: либо максимизировать сумму денег, которую он заработал, либо максимизировать сумму денег, которую получили и человек-игрок, и машина.
«В каждом эксперименте машина извлекала уроки из ответов участников и выявляла уязвимые места в процессе принятия решений. В результате машина научилась направлять участников к определенным действиям,» пишут авторы научной работы.
Если машины могут победить нас в играх, делает ли это их более умными, чем мы? Полученные в ходе исследования выводы по-прежнему довольно абстрактны и связаны с ограниченными и нереалистичными ситуациями. Так что чтобы определить, как этот подход может быть реализован и использован во благо общества еще только предстоит определить.
ИИ помогает нам, но в то же самое время потенциально может нести человечеству самую настоящую угрозу.
Но это исследование действительно продвигает наше понимание не только того, на что способен ИИ, но и того, как люди делают выбор и принимают решения. К тому же, оно показывает, что машины могут научиться управлять человеческим выбором, просто взаимодействуя с нами. Если задуматься, то настоящее исследование имеет огромный спектр возможных применений от совершенствования поведенческих наук и государственной политики для улучшения социального благосостояния до понимания и влияния на то, какие пищевые привычки принимают люди или какие возобновляемые источники энергии используют. Более того, ИИ и машинное обучение могут быть использованы для распознавания уязвимостей людей в определенных ситуациях и помочь им избежать неудачного выбора.
Читайте также:
Как искусственный интеллект помогает защищать
животных?
Как пишет The Conversation ИИ можно использовать как и любую другую технологию во благо и во вред, а значит грамотное управление развитием ИИ имеет решающее значение для обеспечения его ответственного внедрения. Интересно, что в 2020 году CSIRO разработала Этический кодекс ИИ для австралийского правительства с целью установления надлежащего управления ИИ. Так что можно считать, что первый шаг на этом сложном и не побоюсь этого слова, тернистом пути сделан.
|
|
|
|
|
|
|
|
|
|
|
Астероид Итокава был отправлен на Землю в ходе миссии «Хаябуса» 11 лет назад.
Время от времени именитые ученые выступают с весьма громкими и скандальными заявлениями. Например, недавно профессор кафедры астрономии Гарвардского университ
Оказалось, люди, которые не понимают как функционирует наука, склонны к вере в теории заговора и выступают против вакцинации.
Несмотря на то, что пандемия нового коринавируса длится уже год, огромное количество людей по всему миру продолжает
Климатологи показали, что Гольфстрим замедляется, перенося в Северную Америку и Европу все меньше теплой воды, и продолжает ослабевать.
Остановка теплого морского течения Гольфстрим, как показали результаты нового исследования, може
Комплексное моделирование системы нашей планеты поможет политикам и ученым подготовиться к будущему.
Последние новости, например, о замедлении Атлантического течения Гольфстрим или об айсберге, размером с Санкт-Петербург, который недавно от
Квантовая физика интригует, так как содержит в своей основе некоторую тайну.
Если квантовая теория верна, то от таких квантовых частиц как атомы, можно ожидать очень странного поведения. Но несмотря на хаос, коим может показать
Марсоход Perseverance.
Интересное время, в которое мы живем, становится еще интереснее. Примерно так можно сказать о том, что сейчас происходит в мире. Ракеты летят все выше, исследовательские аппараты улетают все дальше, а на Марс доставл
Многие недооценивают опасность искусственного интеллекта. И нет, речь не о фильме «Терминатор»
Что такое искусственный интеллект? Сейчас про него говорят чуть ли не из каждого угла: первый смартфон с искусственным интеллектом, камера с иск
Робот ALTO, которого можно собрать самому
Компания Google осуществила детскую мечту многих людей и создала конструктор, из которого можно самостоятельно собрать робота. Причем речь идет не о безделушке с мотором и парой лампочек, по
Вероятно, в скором будущем ИИ сможет научиться манипулировать человеческим поведением
В 2015 году ряд известных ученых, предпринимателей и инвесторов, чья деятельность непосредственно связана с искусственным интеллектом (ИИ), подписал
Согласно гипотезе синглтона, в будущем нашей планетой может управлять либо могущественный ИИ, либо единое мировое правительство. Появление диктатуры, к слову, также возможно.
«Гипотеза синглтона» шведского философа Ника Бострома из Оксфор
Кадр из эпизода Я скоро вернусь сериала Черное зеркало
В первой серии второго сезона сериала Черное зеркало рассказывается о женщине, которая потеряла своего молодого человека в автомобильной катастрофе. Она долго не може
На снимке отмечены слоны, которые находятся в диких условиях
На нашей планете становится все меньше видов животных. Несколько десятков лет назад в этом были виноваты браконьеры, которые убивали медведей, слонов и других созданий рад
Астероид Итокава был отправлен на Землю в ходе миссии «Хаябуса» 11 лет назад.
Время от времени именитые ученые выступают с весьма громкими и скандальными заявлениями. Например, недавно профессор кафедры астрономии Гарвардского университ
Климатологи показали, что Гольфстрим замедляется, перенося в Северную Америку и Европу все меньше теплой воды, и продолжает ослабевать.
Остановка теплого морского течения Гольфстрим, как показали результаты нового исследования, може
Комплексное моделирование системы нашей планеты поможет политикам и ученым подготовиться к будущему.
Последние новости, например, о замедлении Атлантического течения Гольфстрим или об айсберге, размером с Санкт-Петербург, который недавно от
Южноафриканский политический деятель Нельсон Мандела умер на свободе в 2013 году.
Некоторые люди убеждены, что помнят как южноафриканский лидер движения борцов за гражданские права Нельсон Мандела умер в тюрьме в 1985 году. Народ скорбел,
Кадр из мультсериала Симпсоны
По распорядку дня людей принято делить на сов и жаворонков. Первые ощущают прилив бодрости в ночное время, поэтому поздно ложатся спать и предпочитают позже просыпаться. Вторые лучше всего себя чувствуют д
Квантовая физика интригует, так как содержит в своей основе некоторую тайну.
Если квантовая теория верна, то от таких квантовых частиц как атомы, можно ожидать очень странного поведения. Но несмотря на хаос, коим может показать
Какой бы страшной не была эпидемия, рано или поздно она закончится
За всю историю человечества было зафиксировано более десяти крупных эпидемий, в ходе которых погибли сотни тысяч людей. Одно из таких тяжелых времен идет прямо сей
Вероятно, в скором будущем ИИ сможет научиться манипулировать человеческим поведением
В 2015 году ряд известных ученых, предпринимателей и инвесторов, чья деятельность непосредственно связана с искусственным интеллектом (ИИ), подписал
Кадр из фильма Флинстоуны
Как вы представляете себе древних людей? В фильмах нам показывают их как угрюмых громил с тяжелыми дубинками, которые живут в пещерах и сражаются с динозаврами. Все это ложь, которая уже много лет использует
Согласно результатам нового исследования, сегодня факты мало кого убеждают.
Факты это краеугольные камни реальности. По крайней мере, так было раньше. Начиная с эпохи Просвещения, философы и ученые в поисках истины отдавали предпочте
Музыкальный инструмент, который был создан 18 000 лет назад, до сих пор работает
В 1931 году, внутри французской пещеры Марсулас, ученые обнаружили раковину хищной морской улитки. Было выдвинуто предположение, что она использовалась
Бронзовые ребра использовались в качестве денег так же, как и бронзовые топоры и кольца
Деньги в своем современном виде появились только в VII веке до нашей эры. Сначала люди пользовались монетами из дорогих металлов, а потом в об
