В эпоху цифровых технологий различение реальности и искусственности стало неожиданной проблемой, особенно когда речь идет об идентификации изображений реальных людей по сравнению с изображениями, созданными ИИ. Недавнее исследование, проведенное исследователями из Университета Ватерлоо, пролило свет на то, насколько сложной может быть эта задача.
С быстрым развитием искусственного интеллекта (ИИ) изображения, созданные с помощью технологий ИИ, становится все труднее отличить от фотографий реальных людей. Такое развитие событий ставит серьезные вопросы о нашей способности распознавать подлинность в цифровой сфере.
ИИ генерирует изображения и человеческое восприятие
В исследовании приняли участие 260 участников, которым были представлены 20 немаркированных изображений, половина из которых представляла собой фотографии реальных людей, полученные в результате поиска в Google, а другая половина была создана с помощью программ искусственного интеллекта, таких как Stable Diffusion и DALL-E . Эти программы известны своей способностью создавать очень реалистичные изображения.
Участникам было поручено определить, какие изображения были реальными, а какие были созданы искусственным интеллектом, и обосновать свои решения.
Удивительно, но только 61% участников смогли точно отличить реальные изображения от изображений, созданных искусственным интеллектом, что значительно ниже ожидаемого исследователями уровня точности в 85%.
«Люди не настолько искусны в проведении различий, как они думают», — заметила Андреа Покол, кандидат компьютерных наук в Университете Ватерлоо и ведущий автор исследования.
Неправильная оценка цифровых реалий
Это открытие подчеркивает растущую проблему в эпоху цифровых технологий: растущую трудность в различении подлинного и искусственного контента.
Участники исследования сосредоточили внимание на таких деталях, как пальцы, зубы и глаза, как на показателях подлинности. Однако их оценки не всегда были точными, что подчеркивает сложность изображений, созданных ИИ.
Покол отметил, что контекст исследования позволил детально изучить каждую фотографию — роскошь, недоступная среднестатистическому пользователю Интернета, который обычно бегло просматривает изображения. «Люди, которые просто прокручивают события или у них нет времени, не уловят эти сигналы», — объяснил Покол.
Развивающаяся борьба с дезинформацией
Быстрые темпы развития искусственного интеллекта еще больше усложняют эту проблему, поскольку технологии развиваются быстрее, чем успевают академические исследования и законодательство. С момента начала исследования в конце 2022 года изображения, созданные ИИ, стали еще более реалистичными.
Эти изображения представляют особую угрозу как инструменты политических и культурных манипуляций, позволяющие создавать фальшивые изображения общественных деятелей в потенциально разрушительных сценариях.
«Дезинформация не нова, но инструменты дезинформации постоянно меняются и развиваются», — заметил Покол. Она предупредила о будущем, в котором, несмотря на обучение и осведомленность, людям все еще будет сложно отличить настоящие изображения от поддельных.
Эта потенциальная реальность подчеркивает необходимость разработки инструментов для выявления и противодействия контенту, созданному ИИ. Покол сравнил ситуацию с новой формой гонки вооружений в области искусственного интеллекта , подчеркнув важность оставаться впереди в борьбе с цифровым обманом.
Изображения, генерируемые искусственным интеллектом, и будущее контента
Таким образом, исследование Университета Ватерлоо проливает свет на важнейшую проблему цифровой эпохи: нашу коллективную борьбу за различие между реальными изображениями и изображениями, созданными искусственным интеллектом.
Поскольку лишь небольшая часть участников точно идентифицирует искусственные творения, становится ясно, что мы должны повысить нашу бдительность и разработать более сложные инструменты для противодействия растущей волне цифровой дезинформации.
Поскольку технологии искусственного интеллекта продолжают развиваться головокружительными темпами, оставаться впереди в этой новой гонке вооружений крайне важно для сохранения целостности нашего цифрового мира. Это требует согласованных усилий исследователей, политиков и общественности для построения будущего, в котором мы сможем доверять тому, что видим в Интернете.
Подробнее об изображениях и дезинформации, созданных ИИ
Как обсуждалось выше, изображения, созданные ИИ, оказались палкой о двух концах, предоставляя творческие возможности, с одной стороны, и открывая эпоху беспрецедентной дезинформации, с другой.
Распространение инструментов создания изображений ИИ
Способность ИИ создавать реалистичные изображения значительно улучшилась благодаря достижениям в области машинного обучения и нейронных сетей.
Такие инструменты, как DeepFake, Stable Diffusion и DALL-E, демократизировали создание высокореалистичных изображений, видео и произведений искусства, что раньше было невозможно без обширных ресурсов или навыков.
Хотя эти технологии предвещают новую эпоху творчества и эффективности, они также открывают ящик Пандоры для потенциального злоупотребления, особенно в создании обманчивого контента.
Отличие правды от вымысла
Появление изображений, созданных искусственным интеллектом, усилило проблему дезинформации, из-за чего становится все труднее отличить правду от выдумки. Эти изображения могут быть использованы для создания ложных повествований, манипулирования общественным мнением и подрыва доверия к средствам массовой информации и институтам.
Легкость и скорость, с которыми ИИ может создавать убедительный фейковый контент, превосходят возможности традиционных методов проверки, оставляя пробел, которым легко может воспользоваться дезинформация.
Реальные последствия
Последствия дезинформации, создаваемой ИИ, огромны и разнообразны, затрагивая все: от политики до личной репутации. Сфабрикованные изображения могут влиять на выборы, подстрекать к насилию, опорочить общественных деятелей и распространять теории заговора.
Потенциал вреда возрастает по мере того, как технология искусственного интеллекта становится все более доступной, а ее продукты все труднее отличить от реальности. Социальное воздействие является глубоким, оно подрывает доверие и способствует созданию атмосферы скептицизма и паранойи.
Борьба с изображениями и дезинформацией, создаваемыми ИИ
Решение проблемы дезинформации, создаваемой ИИ, требует многогранного подхода. Во-первых, существует необходимость в дальнейшем развитии технологий обнаружения, которые смогут идти в ногу с достижениями искусственного интеллекта. Эти инструменты должны быть интегрированы в платформы социальных сетей и новостные агентства, чтобы выявлять и отмечать фейковый контент.
Кроме того, кампании по повышению осведомленности общественности могут рассказать людям о распространенности дезинформации, создаваемой ИИ, и о том, как критически оценивать достоверность изображений и источников. Наконец, политика и регулирование должны развиваться для решения уникальных проблем, связанных с ИИ, обеспечивая подотчетность создателей вредоносного контента.
Коллективный вызов впереди
Подводя итог, по мере того, как мы ориентируемся в мираже, созданном изображениями, созданными ИИ, битва с дезинформацией становится все более сложной. Потенциал этих технологий искажать реальность и манипулировать восприятием подчеркивает острую необходимость в надежных решениях.
Используя достижения в области технологий обнаружения, повышая осведомленность общественности и реализуя эффективную политику, мы можем смягчить воздействие дезинформации, генерируемой ИИ. Путь вперед требует коллективной бдительности и инноваций, чтобы сохранить целостность наших цифровых и реальных ландшафтов.
Ответ: Женщина слева на фотографии НЕ настоящая… она творение искусственного интеллекта.
