Лента новостей дня

Благодаря беспилотным машинам и «интеллектуальным» камерам исследования сообщество постепенно обучается верить синтетическому уму больше, чем своим глазам. Однако впрочем свежие системы видения неутомимы и всегда внимательны, они далеки от непогрешимости. Взгляните на черепаху снизу. Она смотрится как черепаха, правильно? Для нас, не для нейронного сетевого метода, опытного Google на определение обыденных субъектов. По словам ИИ Google, это определённо ружьё.

labsix.org

Данная написанная 3D-принтером черепаха — образец того, что известно как изображение-обманка. Во всем мире ИИ такие иллюстрации сгенерированы для того, чтобы перехитрить зрительные методы, применяя особенные шаблоны, выбивающие ИИ из колеи. Это в каком-то смысле зрительные иллюзии для ПК. Можно сконструировать очки, врущие системы узнавания лиц, выдавая себя за кого-то иного, либо можете сделать картину почти невидимой и статичной, однако человек не увидет разницы, но для ИИ это практически будет значить, что панда преобразуется в грузовой автомобиль либо черепаха — в ружьё.

Исследование способов образования подобных атак и обороны от них — серьезное поле для исследовательских работ. Несмотря на то что такие атаки удивительно результативны, они как правило не сильно безграничные. Это значит, что если клиент повернёт изображение-обманку либо незначительно повысит её, персональный компьютер сумеет различить небезопасный стандарт и верно определять субъект. Данная модель черепахи символьная, так как она демонстрирует, как такие атаки работают в трёхмерном пространстве, одурачивая персональный компьютер необычным углом зрения.

Бригада студентов-исследователей Labsix, обнародовавшая это изучение, заявляет, что вполне возможна картина, когда один из символов о гаражной акции распродажи, который автолюбителю–человеку покажется абсолютно стандартным, будет воспринят ПК как прохожий, который нежданно был замечен рядом с улицей. Изображения-обманки это утилитарная неприятность, которую люди должны принимать во внимание, так как нейронные сети делаются всё не менее распространёнными (и небезопасными).

Labsix называют их свежий способ надувательства алгоритмов «Ожидания выше модификаций». Кроме образования черепахи, которая смотрится как ружьё, были и прочие эксперименты, демонстрирующие более безнадежные итоги.

Команда протестировала их атаку на классификаторе фотографий компании Google — Inception-v3. Организация сделала его подходящим для специалистов, несмотря на то что в настоящее время это торговый сервис, он недалёк от этого. Впрочем данная атака не анализировалась иными технологиями видения, в настоящее время нет конкретного предупредительного метода для изображений-обманок. Google не дала ответ письменно на ориентировочную версию данных итогов проведённых тестов, однако её представитель по взаимосвязям с населением показал на большое количество заключительных заметок, размещенных учеными компании, где излагаются методы противодействия атакам изображений-обманок.

labsix.org

Выше образец стандартного изображения-обманки от Labsix. Образец картинки справа идентифицирован как гуакамоле. Если его склонить, его распознают как кошку.

Это изучение также имеет ряд шероховатостей. Прежде всего, бригада настаивает на том, что их атака действует с каждого угла зрения, однако их свое демо-видео демонстрирует, что она действует с многих углов, не со всех. Во-вторых, Labsix нуждаются в доступе к способу узнавания Google, чтобы установить его страсти и применять их. Это символьный барьер для любого, кто предпримет попытку применять эти способы против платных систем видения, к примеру — поставщиков беспилотных авто.

В настоящее время такие атаки не могут представить большой социальной опасности. Да, они результативны, однако лишь при определённых условиях. Несмотря на то что механическое виденье применяется в настоящем мире, нельзя быть убеждены, что неприятности с определением модификаций, написанных на 3D-принтере, не считаются частностью. Скорее всего, это показывает на слабость ИИ и подчёркивает потребность убедиться в том, что эти малые неприятности в будущем не доведут к серьёзным результатам.