Преобразование 2D в 3D - 2D to 3D conversion

редактировать
Процесс преобразования фильма 2D в 3D
Преобразование 2D в 3D
Тип процессацифровой и печатный
Промышленный сектор (ы)Кино и телевидение, полиграфическая продукция
Основные технологии s или подпроцессыКомпьютерное программное обеспечение
Продукт (ы)Фильмы, телешоу, социальные сети, печатные изображения

Преобразование видео из 2D в 3D (также называемое Преобразование 2D в стерео 3D и преобразование стерео ) - это процесс преобразования 2D («плоской») пленки в форму 3D, которая почти во всех случаях стерео, так что это процесс создания изображения для каждого глаза из одного 2D-изображения.

Содержание
  • 1 Обзор
    • 1.1 Повторный рендеринг компьютерных анимационных фильмов
  • 2 Важность и применимость
  • 3 Общие проблемы
  • 4 Качественное полуавтоматическое преобразование
    • 4.1 Преобразование на основе глубины
      • 4.1.1 Многослойность
    • 4.2 Другие подходы
  • 5 Автоматическое преобразование
    • 5.1 Глубина от движения
    • 5.2 Глубина от фокуса
    • 5.3 Глубина с перспективы
  • 6 См. Также
  • 7 Ссылки
Обзор

Преобразование 2D в 3D добавляет бинокулярный сигнал глубины несоответствия к цифровым изображениям, воспринимаемым мозгом, таким образом, если все сделано правильно, значительно улучшается эффект погружения при просмотре стерео видео по сравнению с 2D видео. Однако для того, чтобы преобразование было успешным, преобразование должно выполняться с достаточной точностью и правильностью: качество исходных 2D-изображений не должно ухудшаться, а введенный сигнал несоответствия не должен противоречить другим сигналам, используемым мозгом для восприятия глубины .. Если все сделано правильно и тщательно, преобразование дает стерео-видео, аналогичное качеству «родного» стерео-видео, которое снимается в стерео и точно настраивается и выравнивается при пост-обработке.

Можно свободно определить два подхода к преобразованию стерео. : качественное полуавтоматическое преобразование для кино и высококачественного 3DTV, а также низкое автоматическое преобразование для дешевых 3DTV, VOD и подобных приложений.

Повторный рендеринг компьютерных анимационных фильмов

Компьютерная анимация 2D-фильмы, созданные с использованием 3D-моделей, могут быть повторно визуализированы в стереоскопическом 3D-формате путем добавления второй виртуальной камеры, если исходные данные все еще доступны. Технически это не конверсия; следовательно, такие повторно визуализированные фильмы имеют то же качество, что и фильмы, изначально созданные в стереоскопическом 3D. Примеры этого метода включают переиздание Истории игрушек и Истории игрушек 2. Повторное рассмотрение исходных компьютерных данных для двух фильмов заняло четыре месяца, а также еще шесть месяцев, чтобы добавить 3D. Тем не менее, не все фильмы CGI повторно визуализируются для переиздания в 3D из-за затрат, времени, нехватки квалифицированных ресурсов или отсутствия компьютерных данных.

Важность и применимость

С увеличением количества фильмов, выпускаемых в 3D, преобразование 2D в 3D стало более распространенным. Большинство не- CGI стерео 3D блокбастеров полностью или, по крайней мере, частично преобразованы из 2D-материала. Даже Аватар содержит несколько сцен, снятых в 2D и преобразованных в стерео при постобработке. Причины для съемки в 2D вместо стерео являются финансовыми, техническими, а иногда и художественными:

  • Пост-продакшн в стереорежиме намного сложнее и не так хорошо отработан, как 2D, и требует больше работы и рендеринга.
  • Профессиональные стереоскопические установки намного дороже и громоздки, чем обычные монокулярные камеры. Некоторые кадры, особенно боевые сцены, можно снимать только с помощью относительно небольших 2D-камер.
  • Стереокамеры могут вносить различные несоответствия в стереоизображение (например, вертикальный параллакс, наклон, сдвиг цвета, отражения и блики в разных положениях), которые в любом случае следует исправить при постобработке, поскольку они разрушают 3D-эффект. Эта коррекция иногда может иметь сложность, сравнимую со стерео преобразованием.
  • Стереокамеры могут выдавать практические эффекты, используемые во время съемки. Например, некоторые сцены в трилогии фильма Властелин колец были сняты с использованием принудительной перспективы, чтобы два актера казались разными физическими размерами. Та же самая сцена, снятая в стерео, покажет, что актеры находятся на разном расстоянии от камеры.
  • По самой своей природе стереокамеры имеют ограничения на то, как далеко камера может быть от снимаемого объекта, и при этом обеспечивают приемлемое расстояние стерео разделение. Например, самый простой способ снять сцену, происходящую на стороне здания, - это использовать камеру через улицу в соседнем здании, используя зум-объектив. Однако, хотя зум-объектив обеспечит приемлемое качество изображения, разделение стерео будет практически нулевым на таком расстоянии.

Даже в случае стереосъемки часто может потребоваться преобразование. Помимо упомянутых сложных для съемки сцен, бывают ситуации, когда несоответствия в стереофонических изображениях слишком велики, чтобы их можно было отрегулировать, и проще выполнить преобразование 2D в стерео, рассматривая одно из изображений как исходный 2D-источник.

Общие проблемы

Безотносительно к конкретным алгоритмам все рабочие процессы преобразования должны решать следующие задачи:

  1. Распределение «бюджета глубины» - определение диапазона разрешенного несоответствия или глубины, какое значение глубины соответствует положению на экране (так называемое положение «точки конвергенции»), допустимые диапазоны расстояний для эффектов вне экрана и фоновых объектов за экраном. Если объект в стереопаре находится в одном и том же месте для обоих глаз, он появится на поверхности экрана и будет иметь нулевой параллакс. Считается, что объекты перед экраном имеют отрицательный параллакс, а фоновые изображения за экраном имеют положительный параллакс. Существуют соответствующие отрицательные или положительные смещения в положениях объектов для изображений для левого и правого глаза.
  2. Контроль комфортного несоответствия в зависимости от типа сцены и движения - слишком большой параллакс или конфликтующие сигналы глубины могут вызвать утомление глаз и эффекты тошноты
  3. Заливка непокрытых областей - изображения левого или правого обзора показывают сцену под другим углом, а части объектов или целые объекты, покрытые передним планом в исходном 2D-изображении, должны стать видимыми в стереопаре. Иногда фоновые поверхности известны или могут быть оценены, поэтому их следует использовать для заполнения непокрытых участков. В противном случае неизвестные области должны быть заполнены художником или окрашены, поскольку точная реконструкция невозможна.

Методы высококачественного преобразования также должны иметь дело со многими типичными проблемами, включая:

  • полупрозрачные объекты
  • Отражения
  • Нечеткие полупрозрачные границы объектов - например, волосы, мех, объекты не в фокусе на переднем плане, тонкие объекты
  • Зернистость пленки (настоящая или искусственная) и аналогичные эффекты шума
  • Сцены с быстрым беспорядочным движением
  • Мелкие частицы - дождь, снег, взрывы и т. Д.
Качественное полуавтоматическое преобразование

Преобразование на основе глубины

Большинство полуавтоматических методов преобразования стерео используют карты глубины и рендеринг на основе изображений с глубиной.

Идея состоит в том, что для каждого кадра создается отдельное вспомогательное изображение, известное как «карта глубины ». или для серии однородных кадров, чтобы указать глубину объектов, присутствующих в сцене. Карта глубины - это отдельное изображение в градациях серого, имеющее те же размеры, что и исходное 2D-изображение, с различными оттенками серого для обозначения глубины каждой части кадра. Хотя отображение глубины может создать довольно сильную иллюзию трехмерных объектов в видео, оно по своей сути не поддерживает полупрозрачные объекты или области, а также не допускает явного использования окклюзии, поэтому эти и другие подобные проблемы следует решать с помощью отдельной метод.

Пример карты глубины Создание и реконструкция трехмерных форм из одно- или многовидовых карт глубины или силуэтов

Основными этапами методов преобразования на основе глубины являются:

  1. Распределение бюджета глубины - сколько всего глубина сцены и место расположения плоскости экрана.
  2. Сегментация изображения, создание подложек или масок, обычно с помощью ротоскопирования. Каждая важная поверхность должна быть изолирована. Уровень детализации зависит от требуемого качества конвертации и бюджета.
  3. Создание карты глубины. Каждой изолированной поверхности должна быть назначена карта глубины. Отдельные карты глубины должны быть составлены в карту глубины сцены. Это итеративный процесс, требующий настройки объектов, форм, глубины и визуализации промежуточных результатов в стерео. Глубинный микрорельеф, трехмерная форма добавляется к наиболее важным поверхностям, чтобы предотвратить эффект «картона», когда стереоизображение выглядит как комбинация плоских изображений, только что установленных на разной глубине.
  4. Генерация стерео на основе 2D + Глубина с любой дополнительной информацией, такой как чистые пластины, восстановленный фон, карты прозрачности и т. Д. По завершении процесса будут созданы левое и правое изображения. Обычно исходное 2D-изображение обрабатывается как центральное изображение, поэтому создаются два стерео вида. Однако некоторые методы предлагают использовать исходное изображение в качестве изображения для одного глаза и создавать изображение только для другого глаза, чтобы минимизировать затраты на преобразование. Во время генерации стерео пиксели исходного изображения смещаются влево или вправо в зависимости от карты глубины, максимального выбранного параллакса и положения поверхности экрана.
  5. Реконструкция и закрашивание любых непокрытых областей, не заполненных стерео Генератор.

Стерео может быть представлено в любом формате для целей предварительного просмотра, включая анаглиф.

Длительные этапы - сегментация / ротоскопирование изображения, создание карты глубины и заполнение непокрытой области. Последнее особенно важно для максимально качественной конвертации.

Существуют различные методы автоматизации для создания карты глубины и восстановления фона. Например, автоматическая оценка глубины может использоваться для создания исходных карт глубины для определенных кадров и снимков.

Людей, занимающихся такой работой, можно назвать художниками глубины.

Многослойность

Развитие карт глубины, многослойность позволяет обойти ограничения карт глубины путем введения нескольких слоев масок глубины в градациях серого для реализации ограниченной полупрозрачности. Подобно простому методу, многослойность включает применение карты глубины более чем к одному «фрагменту» плоского изображения, что приводит к гораздо лучшему приближению глубины и выступа. Чем больше слоев обрабатывается отдельно для каждого кадра, тем выше качество трехмерной иллюзии.

Другие подходы

3D-реконструкция и повторное проецирование могут использоваться для преобразования стерео. Он включает в себя создание 3D-модели сцены, извлечение исходных поверхностей изображения в виде текстур для 3D-объектов и, наконец, рендеринг 3D-сцены с двух виртуальных камер для получения стерео-видео. Этот подход достаточно хорошо работает в случае сцен со статическими жесткими объектами, такими как городские снимки со зданиями, снимки интерьера, но есть проблемы с нежесткими телами и мягкими нечеткими краями.

Другой метод - настроить как левый, так и правые виртуальные камеры, обе смещены от исходной камеры, но разделяют разницу смещения, затем закрашивают края окклюзии изолированных объектов и символов. По сути, очистка нескольких элементов заднего, среднего и переднего плана.

Бинокулярное несоответствие также может быть получено из простой геометрии.

Автоматическое преобразование

Глубина по движению

Можно автоматически оценивать глубину, используя различные типы движение. В случае движения камеры можно рассчитать карту глубины всей сцены. Кроме того, движение объекта может быть обнаружено, а движущимся областям можно присвоить меньшие значения глубины, чем фон. Окклюзии предоставляют информацию об относительном положении движущихся поверхностей.

Глубина от фокуса

Подходы этого типа также называются «глубиной от расфокусировки» и «глубиной от размытия». В подходах «глубина от расфокусировки» (DFD) информация о глубине оценивается на основе степени размытия рассматриваемого объекта, тогда как подходы «глубина от фокуса» (DFF) имеют тенденцию сравнивать резкость объекта по диапазону изображений. снято с разными фокусными расстояниями, чтобы определить расстояние до камеры. Для правильной работы DFD требуется всего два или три с разным фокусом, тогда как DFF требует как минимум 10-15 изображений, но он более точен, чем предыдущий метод.

Если на обработанном изображении обнаруживается небо, можно также принять во внимание, что более удаленные объекты, помимо тумана, должны быть более ненасыщенными и более голубоватыми из-за толстого слоя воздуха.

Глубина в перспективе

Идея метода основана на том факте, что параллельные линии, такие как железнодорожные пути и обочины, кажутся сходящимися с расстоянием, в конечном итоге достигая точки схода на горизонте. Поиск этой точки схода дает самую дальнюю точку всего изображения.

Чем больше сходятся линии, тем дальше они кажутся. Таким образом, для карты глубины область между двумя соседними сходящимися линиями может быть аппроксимирована градиентной плоскостью.

См. Также
Ссылки
  • Mansi Sharma; Сантану Чаудхури; Бреджеш Лалл (2014). Kinect-Variety Fusion: новый гибридный подход к созданию контента 3DTV без артефактов. На 22-й Международной конференции по распознаванию образов (ICPR), Стокгольм, 2014. doi :10.1109/ICPR.2014.395.
Последняя правка сделана 2021-07-18 03:20:59
Содержание доступно по лицензии CC BY-SA 3.0 (если не указано иное).
Обратная связь: support@alphapedia.ru
Соглашение
О проекте