Неделя в ИИ: генеративный ИИ рассылает спам в сети

Идти в ногу с такой быстро развивающейся отраслью, как , — сложная задача. Итак, пока ИИ не сможет сделать это за вас, вот удобный обзор последних историй из мира машинного обучения, а также известных исследований и экспериментов, которые мы не освещали сами по себе.

На этой неделе SpeedyBrand, компания, использующая генеративный ИИ для создания SEO-оптимизированного контента, вышла из скрытности при поддержке Y Combinator. Он еще не привлек большого финансирования (2,5 млн. долл.), а его клиентская база относительно невелика (около 50 брендов). Но это заставило меня задуматься о том, как генеративный ИИ начинает менять структуру Интернета.

Как написал в недавней статье Джеймс Винсент из The Verge, генеративные модели искусственного интеллекта удешевляют и упрощают создание низкокачественного контента. Newsguard, компания, которая предоставляет инструменты для проверки источников новостей, выявила сотни поддерживаемых рекламой сайтов с общими названиями, содержащими дезинформацию, созданную с помощью генеративного ИИ.

Это создает проблемы для рекламодателей. Многие из сайтов, отмеченных Newsguard, похоже, созданы исключительно для злоупотребления программной рекламой или автоматизированными системами размещения рекламы на страницах. В своем отчете Newsguard обнаружил около 400 случаев рекламы от 141 крупного бренда, которые появлялись на 55 сайтах нежелательных новостей.

Беспокоиться должны не только рекламодатели. Как отмечает Кайл Барр из Gizmodo, достаточно одной статьи, созданной искусственным интеллектом, чтобы привлечь массу внимания. И даже если каждая статья, сгенерированная ИИ, приносит всего несколько долларов, это меньше, чем затраты на создание текста в первую очередь — и потенциальные рекламные деньги, которые не отправляются на законные сайты.

Итак, каково решение? Есть ли один? Это пара вопросов, которые все чаще не дают мне спать по ночам. Барр предполагает, что поисковые системы и рекламные платформы должны более жестко контролировать и наказывать злоумышленников, использующих генеративный ИИ. Но, учитывая, как быстро развивается поле — и бесконечно масштабируемый характер генеративного ИИ — я не уверен, что они смогут идти в ногу.



Конечно, спам-контент — явление не новое, и раньше были волны. Сеть адаптировалась. На этот раз отличие заключается в том, что барьер для входа резко низок — как с точки зрения затрат, так и времени, которое необходимо инвестировать.

Винсент говорит оптимистичным тоном, подразумевая, что если сеть является в конечном итоге переполнившись мусором ИИ, он может подстегнуть разработку более финансируемых платформ. Я не совсем уверен. Что не вызывает сомнений, так это то, что мы находимся в переломном моменте, и решения, принятые сейчас в отношении генеративного ИИ и его результатов, будут влиять на функционирование Интернета в течение некоторого времени.

Вот другие примечательные истории с ИИ за последние несколько дней:

OpenAI официально запускает GPT-4: На этой неделе OpenAI объявила об общедоступности GPT-4, своей последней модели генерации текста, через платный API. GPT-4 может генерировать текст (включая код) и принимать изображения и текст на входе — улучшение по сравнению с GPT-3.5, его предшественником, который принимал только текст — и работает на «человеческом уровне» в различных профессиональных и академических тестах. Но это не идеально, как мы отмечали в нашем предыдущем обзоре. (В то же время, как сообщается, принятие ChatGPT не работает, но мы посмотрим.)

Взяв под контроль «сверхразумный» ИИ: Что касается других новостей OpenAI, компания формирует новую команду под руководством Ильи Суцкевера, своего главного научного сотрудника и одного из соучредителей OpenAI, для разработки способов управления и контроля над «сверхразумными» системами ИИ.

Закон о борьбе с предвзятостью для Нью-Йорка: После нескольких месяцев задержек город Нью-Йорк на этой неделе начал применять закон, который требует от работодателей, использующих алгоритмы для найма, найма или продвижения по службе сотрудников, представлять эти алгоритмы для независимой проверки и публиковать результаты.

Valve молчаливо дает зеленый свет играм, созданным с помощью ИИ: Valve опубликовала редкое заявление после того, как заявила, что отклоняет игры с активами, созданными искусственным интеллектом, из своего игрового магазина Steam. Печально известный молчаливый разработчик заявил, что его политика развивается, а не выступает против ИИ.

Humane представляет Ai Pin: Humane, стартап, запущенный экс-Apple дизайнерский и инженерный дуэт Имран Чаудри и Бетани Бонджорно на этой неделе раскрыл подробности о своем первом продукте: Ai Pin. Как оказалось, продукт Humane представляет собой носимый гаджет с проецируемым дисплеем и функциями на базе искусственного интеллекта — как футуристический смартфон, но в совершенно другом форм-факторе.

Предупреждения о правилах ЕС по искусственному интеллекту: Крупные основатели технологических компаний, генеральные директора, венчурные капиталисты и отраслевые гиганты по всей Европе на этой неделе подписали открытое письмо в Комиссию ЕС, предупредив, что Европа может упустить революцию генеративного ИИ, если ЕС примет законы, подавляющие инновации.

Мошенничество с дипфейками распространяется: Проверить этот клип чемпиона Великобритании по потребительскому финансированию Мартина Льюиса, по-видимому, зарабатывает инвестиционную возможность, поддержанную Илоном Маском. Кажется нормальным, верно? Не совсем. Это дипфейк, сгенерированный ИИ, и, возможно, проблеск страданий, сгенерированных ИИ, быстро распространяющихся на наших экранах.

Секс-игрушки с искусственным интеллектом: Lovense — возможно, наиболее известная своими секс-игрушками с дистанционным управлением — на этой неделе анонсировала ChatGPT Pleasure Companion. «Advanced Lovense ChatGPT Pleasure Companion», запущенный в бета-версии в приложении компании для удаленного управления, предлагает вам погрузиться в пикантные и эротические истории, которые Companion создает на основе выбранной вами темы.

Другое машинное обучение

Наш обзор исследований начинается с двух очень разных проектов ETH Zurich. Во-первых, это aiEndoscopic, дочерняя разработка умной интубации. Интубация необходима для выживания пациента во многих случаях, но это сложная ручная процедура, обычно выполняемая специалистами. IntuBot использует компьютерное зрение, чтобы распознавать и реагировать на прямую трансляцию изо рта и горла, направляя и корректируя положение эндоскопа. Это может позволить людям безопасно проводить интубацию, когда это необходимо, а не ждать специалиста, потенциально спасая жизни.

Вот они объясняют это немного подробнее:

В совершенно другой области исследователи ETH Zurich также внесли свой вклад в фильм Pixar, разработав технологию, необходимую для анимации дыма и огня, не став жертвой фрактальной сложности гидродинамики. Их подход был замечен и использован Disney и Pixar для фильма «Элементаль». Интересно, что это не столько решение для моделирования, сколько решение для передачи стиля — умный и, по-видимому, весьма ценный ярлык. (Изображение вверху взято отсюда.)

ИИ в природе всегда интересен, но природный ИИ применительно к археологии тем более. Исследования, проведенные Университетом Ямагата, были направлены на выявление новых линий Наска — огромных «геоглифов» в Перу. Вы можете подумать, что, будучи видимыми с орбиты, они были бы довольно очевидны, но эрозия и древесный покров за тысячелетия, прошедшие с тех пор, как были созданы эти загадочные образования, означают, что неизвестное число скрывается вне поля зрения. После обучения на аэрофотоснимках известных и скрытых геоглифов модель глубокого обучения была запущена на других видах и, что удивительно, обнаружила как минимум четыре новых, как вы можете видеть ниже. Довольно интересно!

Четыре геоглифа Наска, недавно обнаруженные агентом ИИ.

В более актуальном смысле технология, связанная с искусственным интеллектом, всегда находит новую работу по обнаружению и прогнозированию стихийных бедствий. Инженеры из Стэнфорда собирают данные для обучения будущих моделей прогнозирования лесных пожаров, моделируя нагретый воздух над пологом леса в 30-футовом резервуаре для воды. Если мы хотим смоделировать физику пламени и тлеющих углей, выходящих за пределы лесного пожара, нам нужно лучше понять их, и эта команда делает все возможное, чтобы приблизиться к этому.

В Калифорнийском университете в Лос-Анджелесе изучают, как предсказать оползни, которые становятся более распространенными по мере изменения пожаров и других факторов окружающей среды. Но хотя ИИ уже с некоторым успехом использовался для их прогнозирования, он не «показывает свою работу», то есть прогноз не объясняет, вызвано ли это эрозией, сдвигом уровня грунтовых вод или тектонической активностью. В новом подходе «наложенной нейронной сети» слои сети используют разные данные, но работают параллельно, а не все вместе, что позволяет на выходе быть немного более конкретным, в котором переменные привели к повышенному риску. Это также намного эффективнее.

Google рассматривает интересную задачу: как заставить систему машинного обучения учиться на опасных знаниях, но не распространять их? Например, если его тренировочный набор включает рецепт напалма, вы не хотите, чтобы он повторял его, но чтобы знать, что не повторять, ему нужно знать, что он не повторяет. Парадокс! Таким образом, технический гигант ищет метод «машинного разучивания», который позволит безопасно и надежно выполнять этот балансирующий акт.

Если вы ищете более глубокий взгляд на то, почему люди, кажется, доверяют моделям ИИ без веской причины, посмотрите эту редакционную статью Science Селесты Кидд (UC Berkeley) и Abeba Birhane (Mozilla). Он проникает в психологические основы доверия и авторитета и показывает, как нынешние агенты ИИ в основном используют их в качестве трамплина для повышения собственной значимости. Это действительно интересная статья, если вы хотите выглядеть умнее в эти выходные.

Хотя мы часто слышим о печально известной фальшивой шахматной машине Mechanical Turk, эта шарада действительно вдохновила людей на создание того, чем она притворялась. У IEEE Spectrum есть увлекательная история об испанском физике и инженере Торресе Кеведо, который создал настоящего механического шахматиста. Его возможности были ограничены, но именно так вы узнаете, что это было реально. Некоторые даже предполагают, что его шахматная машина была первой «компьютерной игрой». Пища для размышлений.