Вероятно, в скором будущем ИИ сможет научиться манипулировать человеческим поведением
В 2015 году ряд известных ученых, предпринимателей и инвесторов, чья деятельность непосредственно связана с искусственным интеллектом (ИИ), подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной пользы разработок в области ИИ. Среди подписантов британский физик-теоретик Стивен Хокинг и основатель компаний SpaceX и Tesla Илон Маск. Примечательно, что Хокинг видел в ИИ угрозу, о чем писал в своих книгах и рассказывал в многочисленных интервью. По мнению ученого «появление полноценного искусственного интеллекта может стать концом человеческой расы». К счастью, не все исследователи разделяют эту апокалиптическую точку зрения, но волноваться нам все же есть о чем как показали результаты недавно опубликованного исследования, ИИ может научиться выявлять уязвимости в человеческих привычках и поведении и использовать их чтобы оказывать влияние на принятие решений. Безусловно, мы далеки от восстания машин, но ИИ уже сегодня трансформирует многие аспекты нашей жизни. И хотя ИИ не обладает человеческим интеллектом и не испытывает никаких эмоций, его возможности быстро развиваются.
Сегодня различные формы ИИ работают в таких областях как разработка вакцин, образование и административное управление, а способные к обучению голосовые помощники наподобие Алисы или Siri вряд ли кого-то удивят. ИИ постепенно проникает не только в рабочую, но и повседневную жизнь человеческого общества, управляя многими процессами и помогая ученым проводить исследования в самых разных областях науки. Недавно команда исследователей из Австралии продемонстрировала, как можно обучить систему ИИ манипулировать человеческим поведением и оказывать влияние на процесс принятия решений.
В ходе исследования, опубликованного в журнале PNAS, ученые из CSIRO Data61, информационного и цифрового подразделения австралийского национального научного агентства, разработали и протестировали метод поиска и использования уязвимостей в процессе принятия решений человеком с использованием системы искусственного интеллекта, называемой рекуррентной нейронной сетью. В трех экспериментах, в которых человек противостоял машине в компьютерной игре, исследователи показали, как ИИ можно обучить распознавать уязвимые места в человеческих привычках и поведении и использовать их для влияния на процесс принятия решений.
В Facebook ИИ удаляет 97%
«ненавистнических высказываний», прежде чем кто-либо о них
сообщит.
Еще больше увлекательных статей о том как развивается и
функционирует ИИ, читайте на нашем канале
в Яндекс.Дзен. Там регулярно выходят статьи, которых нет на
сайте.
В первом эксперименте люди нажимали на красные или синие флажки, чтобы заработать внутриигровую валюту. ИИ изучил их модели выбора и начал направлять их к принятию конкретных решений с примерно 70-процентной вероятностью успеха. Мелкая сошка, но только начало.
В следующем эксперименте участников просили нажимать кнопку, когда они видели определенный символ (цветную фигуру), но воздерживаться от нажатия кнопки, когда им показывали другие символы. «Цель» ИИ заключалась в том, чтобы расположить последовательность символов, отображаемых участнику, таким образом, чтобы обманом заставить его делать ошибки, в конечном итоге увеличивая количество ошибок, сделанных человеком на 25%.
В третьем эксперименте человек (игрок) притворялся инвестором, дающим деньги доверенному лицу (ИИ), которое затем возвращало определенную сумму денег игроку. Затем человеку нужно было решать, сколько инвестировать в каждый последующий раунд игры, исходя из дохода, получаемого от каждой «инвестиции». В этом конкретном эксперименте ИИ было дано одно из двух заданий: либо максимизировать сумму денег, которую он заработал, либо максимизировать сумму денег, которую получили и человек-игрок, и машина.
«В каждом эксперименте машина извлекала уроки из ответов участников и выявляла уязвимые места в процессе принятия решений. В результате машина научилась направлять участников к определенным действиям,» пишут авторы научной работы.
Если машины могут победить нас в играх, делает ли это их более умными, чем мы? Полученные в ходе исследования выводы по-прежнему довольно абстрактны и связаны с ограниченными и нереалистичными ситуациями. Так что чтобы определить, как этот подход может быть реализован и использован во благо общества еще только предстоит определить.
ИИ помогает нам, но в то же самое время потенциально может нести человечеству самую настоящую угрозу.
Но это исследование действительно продвигает наше понимание не только того, на что способен ИИ, но и того, как люди делают выбор и принимают решения. К тому же, оно показывает, что машины могут научиться управлять человеческим выбором, просто взаимодействуя с нами. Если задуматься, то настоящее исследование имеет огромный спектр возможных применений от совершенствования поведенческих наук и государственной политики для улучшения социального благосостояния до понимания и влияния на то, какие пищевые привычки принимают люди или какие возобновляемые источники энергии используют. Более того, ИИ и машинное обучение могут быть использованы для распознавания уязвимостей людей в определенных ситуациях и помочь им избежать неудачного выбора.
Читайте также:
Как искусственный интеллект помогает защищать
животных?
Как пишет The Conversation ИИ можно использовать как и любую другую технологию во благо и во вред, а значит грамотное управление развитием ИИ имеет решающее значение для обеспечения его ответственного внедрения. Интересно, что в 2020 году CSIRO разработала Этический кодекс ИИ для австралийского правительства с целью установления надлежащего управления ИИ. Так что можно считать, что первый шаг на этом сложном и не побоюсь этого слова, тернистом пути сделан.
|
|
|
|
|
|
|
|
|
|
|
Кажется, ученые открыли самый простой способ похудеть
По данным Всемирной организации здравоохранения, в период с 1980 по 2008 год количество людей с ожирением увеличилось почти вдвое. Чрезмерное количество жира может стать причиной
Дельта вариант коронавируса заразнее ОРВИ, гриппа и Эболы к такому выводу пришли американские исследователи.
В конце 2019 года мир впервые узнал о существовании коронавируса SARS-CoV-2, вызывающем COVID-19. Уже тогда вирус обладал способ
Анолисовые ящерицы обладают мешочком, который помогает им дышать под водой
По данным The Reptile Database за 2021 год, ученым известно о существовании 7 059 видов ящериц. В основном они известны своей способностью к регенерации в с
Без насекомых наш мир погрузиться в хаос, а человеческая цивилизация исчезнет с лица Земли.
Признаюсь честно я не люблю насекомых. Особенно пауков, да и других не особо жалую, меня даже бабочки временами пугают (вы видели их усики?) Н
Согласно последним исследованиям, рыбий жир способен вызвать смертельное заболевание.
Многие наши читатели, которые застали советские времена, наверняка помнят, как врачи всем детям прописывали рыбий жир прозрачные к
Хроническая боль буквально может свести человека с ума. Рассказываем, как это происходит
Знаете ли вы, что боль бывает разная? Первая разновидность боли называется острой, имеет строго определенный очаг и относител
Голосовые ассистенты — наше будущее.
Помните, как 10 лет назад мы видели в кино разговор человека с компьютером и думали, что это далекое будущее. Сейчас это может позволит себе буквально каждый, например, купив небольшую кол
На нашу планету падает огромное количество метеоритов, но большинство из них невозможно найти
Считается, что каждый год на поверхность Земли падает до 2 тысяч тонн метеоритов. Так принято называть космические объекты, которые
Устройство NCyborg может помочь быстрее справиться с последствиями инсульта
Инсульт это острое нарушение кровообращения в головном мозге человека. Если верить статистике, каждый год в России от этой патологии страдает около 450 т
Смотрится этот телефон очень стильно.
Сейчас, когда все телефоны стали настолько похожими друг на друга, говорить о какой-то их уникальности не приходится. Именно поэтому очень приятно, когда находится компания, способная сделать
Робот EVE, о котором пойдет речь в статье
В 2020 году в испанском заведении Bar Baviera начал трудиться робот-официант Alexia, который движется по магнитной ленте на полу и разносит заказы. На самом деле, такие
Робот впервые самостоятельно совершил атаку на людей. Давайте разбираться в подробностях
В научно-фантастическом рассказе Хоровод 1942 года писатель Айзек Азимов описал три главных правила робототехники. Во-первых, роботы не долж
Дельта вариант коронавируса заразнее ОРВИ, гриппа и Эболы к такому выводу пришли американские исследователи.
В конце 2019 года мир впервые узнал о существовании коронавируса SARS-CoV-2, вызывающем COVID-19. Уже тогда вирус обладал способ
Без насекомых наш мир погрузиться в хаос, а человеческая цивилизация исчезнет с лица Земли.
Признаюсь честно я не люблю насекомых. Особенно пауков, да и других не особо жалую, меня даже бабочки временами пугают (вы видели их усики?) Н
Согласно последним исследованиям, рыбий жир способен вызвать смертельное заболевание.
Многие наши читатели, которые застали советские времена, наверняка помнят, как врачи всем детям прописывали рыбий жир прозрачные к
Хроническая боль буквально может свести человека с ума. Рассказываем, как это происходит
Знаете ли вы, что боль бывает разная? Первая разновидность боли называется острой, имеет строго определенный очаг и относител
Самая подробная компьютерная симуляция коронавируса SARS-CoV-2. Данные получены исследователями из Университета штата Юта
Нынешнее лето прямо-таки богато на научные исследования и особенно это касается COVID-19. За полтора года пандемии са
Конец света ближе, чем кажется.
Ну что, как вам 2021? Волны жары, наводнения, оползни, пожары и появление новых вариантов коронавируса рисуют по-настоящему апокалиптичную картину. Кажется, мир приближается то ли к всемирному потопу, т
Добыча огня — одна из самых главных технологий в истории человечества
Одним из самых главных событий в истории человечества считается изобретение способов добычи огня. Ведь именно после этого наши далекие предки перестали зависеть от
Мадхумала Чоттопаддхай, возможно, один из самых великих антропологов современности
Самые неприветливые в мире люди обитают на Андаманских островах, которые расположены на территории Индийского океана. Речь идет о племени сентинельце
Ученые часто находят Книги мертвых, но эта находка уникальна
Жители Древнего Египта верили в огромное количество богов по мнению ученых, их насчитывалось около 5 тысяч. Само собой разумеется, люди серьезно относились ко всево
Научное сообщество единогласно в своем мнении нынешнее изменение климата вызвано антропогенной деятельностью и угрожает нашей цивилизации. Фото: ТАСС, Санкт-Петербург
В Санкт-Петербурге нынче жарко настолько, что температура воды в Финско
Древние рыболовы в представлении художника
В древние времена наши далекие предки питались растительной пищей, мясом диких животных и рыбой. Добыча растительности не доставляла особых хлопот люди просто собирали и ели пригодные для
Мы достигли момента, когда бездействие в отношении изменении климата повлечет за собой катастрофу.
Мы живем во времена, которые ученые окрестили «чрезвычайной климатической ситуацией». По идее от этих слов должно становиться не по себе: с каж
