Прощайте, ключевые слова!

Одна картинка может стоить тысячи слов, но в ответ на запрос «роза» система поиска изображений Google Image выдает более 60 тыс. ссылок на графические файлы, размещенные во Всемирной паутине

Использование ключевых слов имеет как сильные, так и слабые стороны: компьютер может найти множество релевантных веб-страниц, но неспособен отличить, скажем, название цветка от женского имени. Было бы здорово, если бы поисковая система могла находить изображения, похожие на предоставленную пользователем фотографию.

Идея использовать картинки в качестве поисковых запросов не нова. Лет десять назад появилась программа, способная находить похожие друг на друга фотографии и отыскивать в базе данных изображения по их словесному описанию. Несмотря на это, до последнего времени методы поиска изображений по визуальному содержанию разрабатывались лишь в рамках дипломных проектов и кандидатских диссертаций.

Популярным поисковым системам еще предстоит внедрить новую технологию обработки своих каталогов, содержащих гиперссылки на миллиарды фотографий и рисунков. Однако кое-какие успехи в этой области уже достигнуты, и в ближайшем будущем мы сможем отказаться от использования ключевых слов.

Камера вместо клавиатуры

Повсеместное распространение сотовых телефонов и КПК, способных подключаться к Интернету и оснащенных фотокамерами, а также неудобство использования миниатюрных клавиатур для ввода ключевых слов, открывают широкие возможности для отправки поисковых запросов в виде фотографий.

Сотрудники Microsoft Research рассматривают фотокамеру сотового телефона как перспективное устройство для ввода информации. Например, в магазине вы могли бы сфотографировать заинтересовавший вас товар, отправить файл с изображением на поисковый сервер и получить веб-страницу с отзывами других покупателей. Фотография картины «Мона Лиза» поможет найти страницу по истории искусства, а снимок городской достопримечательности – карту ее окрестностей. «Наконец-то Всемирная паутина увидит реальный мир глазами пользователей», – говорит Ларри Зитник (Larry Zitnick) из редмондской лаборатории Microsoft Research. Аналогичный проект разрабатывается и в пекинском подразделении компании.

Перед исследователями стоит нелегкая задача: нужно разработать мощный алгоритм, позволяющий просмотреть все изображения во Всемирной паутине. Группа Зитника продемонстрировала систему, принимающую фотографии-запросы, сделанные с помощью сотовых телефонов, и сопоставляющую их с предварительно обработанными обучающими изображениями, которым соответствуют ссылки на релевантные веб-сайты. Зитник планирует создать базу из миллиардов картинок, собранных поисковой системой MSN Search. Пока на формирование выборки из десятков тысяч обучающих изображений уходит от двух до четырех секунд – интервал, который предстоит уменьшить до долей секунды.

На подготовительном этапе компьютер извлекает из веб-страницы фотографию и выявляет ее характерные особенности – темные пятна, окруженные светлыми областями, и наоборот. Некоторые особенности группируются по три на основании вычисления расстояний между ними. Каждая особенность представляет собой центр квадрата 10×10 пикселей. Группа из трех таких квадратов называется триплетом. В каждом обучающем изображении выявляется примерно 5 тыс. триплетов. Информация об их расположении заносится в гигантскую таблицу, которая используется для того, чтобы сократить объем вычислений во время поиска. Фотография-запрос тоже разделяется на триплеты, которые затем сравниваются с триплетами из таблицы. В результате на сотовый телефон пользователя приходит список гиперссылок на веб-страницы, содержащие искомое изображение. Сравнение основано именно на триплетах, потому что каждый из них охватывает большую часть изображения, за счет чего снижается вероятность ошибочного сопоставления.

К сожалению, производительность системы оставляет желать лучшего: средняя вероятность правильного распознавания не превышает 80%. Однако изображения объектов со специфическими плоскими поверхностями, столь характерными для большинства товаров, распознаются с более высокой степенью точности. Кроме того, пользователи привыкли получать не одну, а несколько ссылок, поэтому вполне можно говорить о приемлемом уровне распознавания. Так или иначе, способность системы выявлять характерные черты объектов на обучающих изображениях и фотографиях-запросах позволяет получать гораздо меньшее количество релевантных ссылок, чем в случае обычного текстового поиска.

Чтобы увеличить диапазон объектов, поддающихся поиску, Зитник планирует усовершенствовать алгоритм, и тогда компьютер сможет находить зеркальные поверхности, а также предметы со сложной структурой, например, растения. Вместе с тем он отмечает, что новая система никогда не сможет охватить все разнообразие визуально различимых объектов

Мальчик, девочка – какая разница?

Google тоже пристально следит за несметным множеством изображений на веб-страницах. Руководство этой поисковой системы не спешит афишировать планы на будущее, однако ее разработчики начали сообщать о своих достижениях на различных технических конференциях. С точки зрения компании, полноценное сравнение двух фотографий и распознавание отдельных объектов должно отойти на второй план, уступив место более прагматичной задаче простого обобщения миллиардов изображений. Например, на запрос, что это за розоватое пятно на фотографии — участок тела обнаженной красавицы или коттедж в стиле ар деко, — пользователь системы поиска изображений всегда рискует получить пару-тройку порнографических картинок.

«Мы хотим, чтобы порно-сайты отфильтровывались не только по адресам и ключевым словам, но и по содержимому изображений», – говорит один из разработчиков Google Шамит Балуйя (Shumeet Baluja). В одном из подразделений компании была разработана и внедрена система, которая со средней степенью точности определяет, является ли фото порнографическим. Отказавшись от распознавания форм, занимающего до нескольких минут, исследователи с помощью 2,5 тыс. компьютеров, анализирующих по 20 изображений в секунду, выявили половину непристойных картинок в наборе из 1,5 млрд. изображений за 8 часов. Теперь во время поиска по Всемирной паутине вы можете дать указание поисковой системе, чтобы она не выдавала вам ссылки на страницы, чье содержание помечено как сомнительное.

Система состоит из нескольких модулей, распознающих 27 характерных черт порнографии: цвета и текстуры, характерные для изображения кожи человека; области одинакового цвета, соответствующие обнаженному телу; присутствие лиц и т.п. Однако у кожи бывают разные оттенки, и к тому же многие безобидные предметы окрашены в телесные цвета. Поэтому один из компонентов системы отвечает за распознавание объектов, например, зданий, которые легко отличить по длинным прямым граням. Картинки, помеченные как непристойные, служат одним из признаков, по которым система Google Images отфильтровывает ссылки на порнографические сайты. Кроме того, она анализирует адреса и текстовое содержание подозрительных веб-страниц.

Каждый алгоритм, используемый для анализа изображений из Всемирной паутины, прежде всего должен быть быстрым и эффективным. Исследователям из компании Google удалось существенно сократить объем информации, необходимой для визуального определения пола человека и ракурса его лица. Достигнутое ускорение процесса обработки имеет принципиальное значение, поскольку пользователи чаще всего ищут именно фотографии людей. Было бы здорово, если бы поисковая система могла определять, кто изображен на картинке: Бритни Спирс или Тони Блэйр? В Google уже используются фильтры, определяющие ракурс, пол и возраст людей по их портретам.

Модуль для определения пола и ракурса лица разработан Балуйей и Генри Роули (Henry Rowley) на основе результатов измерения световых интенсивностей пар пикселей внутри квадратов 20×20 точек, взятых с фотографий мужских и женских лиц в разных положениях. Сначала специальный алгоритм находит на фото лицо, а затем модуль, определяющий его положение, анализирует 150 пар пикселей и с точностью 99% распознает один из пяти ракурсов (анфас, слева, справа и т.д.). Описанные фильтры можно использовать в самых разных целях, а не только чтобы отфильтровать картинки «для взрослых».

Разработчики Google не считают нужным придумывать изощренные алгоритмы только ради демонстрации своей виртуозности. К исследованиям они относятся прагматически, и по возможности стараются упрощать сложные задачи. Нельзя же, в конце концов, анализировать каждый пиксель на каждой картинке из Всемирной паутины!

ПОИСК ПО ФОТОГРАФИИ ИЗ ТЕЛЕФОНА

В одном из проектов Microsoft Research фотографии, сделанные камерой сотового телефона, используются для поиска похожих изображений и информации о них во Всемирной паутине.

1. Поиск начинается с отправки на поисковый сервер снимка объекта, сделанного с помощью сотового телефона. На сервере содержится каталог обучающих изображений, собранных из всех уголков Сети и подготовленных к сравнению с фотографией-запросом.

2. Для ускорения поиска похожего изображения сервер выявляет характерные особенности снимка: темные пятна, окруженные светлыми областями, и наоборот. Каждая особенность является центром квадрата 10×10 пикселей. Квадраты, расположенные на заданном расстоянии друг от друга, группируются в триплеты.

3. Триплеты фотографии-запроса сравниваются с триплетами обучающих изображений. На каждом снимке выделяют в среднем по 5 тыс. триплетов, которые сохраняются в базе данных. Сопоставление триплетов, а не отдельных кусочков картинки, позволяет находить изображения, наиболее точного соответствующие запросу.

4. Все элементы триплета запоминаются в одном том же масштабе и в одном и том же положении. Обучающее изображение, найденное в результате сравнения триплетов, дополнительно сверяется с запросом путем сопоставления нескольких центральных пикселей.

5. Как только найдено подходящее обучающее изображение, на сотовый телефон пользователя передается ссылка на содержащую его веб-страницу.

ДОПОЛНИТЕЛЬНАЯ ЛИТЕРАТУРА

* Boosting Sex Identification Performance. Shumeet Baluja and Henry Rowley. Innovative Applications of Artificial Intelligence, 2005.

* Large Scale Image-Based Adult-Content Filtering. Henry A. Rowley, Yushi Jing and Shumeet Baluja. International Conference on Computer Vision Theory and Applications, 2006.