SlideShare a Scribd company logo
1 of 20
Интерактивный звук
с/к Анализ и генерация видео и звука
в реальном времени
Денис Перевалов, весна 2015 г., УрФУ-ИММ, г. Екатеринбург
http://uralvision.blogspot.com
http://vk.com/lections_media_processing
https://www.facebook.com/LectionsMediaProcessing
Цифровой звук
Применения звука
Типы микрофонов
Запись звука в Audacity
Сведение дорожек в Ableton Live
Пульты и контроллеры
Обработка звука в Max/MSP
Анализ звука
Что такое звук
Звук, в широком смысле — упругие волны, продольно распространяющиеся в среде
и создающие в ней механические колебания;
в узком смысле — субъективное восприятие этих колебаний специальными
органами чувств животных или человека.
Как и любая волна, звук характеризуется амплитудой и частотой. (Википедия)
http://blog.modernmechanix.com/mags/qf/c/PopularScience/9-1950/med_sound.jpg
Представление звука
в цифровом виде
Реальный звук захватывается микрофоном, затем подвергается аналого-
цифровому преобразованию.
Разрешение по времени - частота дискретизации, [процедура - дискретизация]
Разрешение по амплитуде - разрядность. [процедура - квантование]
Амплитуда
http://upload.wikimedia.org/wikipedia/commons/thumb/9/9a/Digital.signal.svg/567px-Digital.signal.svg.png
Время
Применения звука
Создание звукового фона
Воспроизведение готовых звуков и аудиотреков
Компьютер
Обработка звука
Манипуляции со звуком, захватываемым прямо
во время выступления (музыка, вокал, стихи)
Компьютер
Анализ звука
Вычисление параметров звука (громкость,
содержимое по частотам, темп, тон) и
использования для визуализации
Компьютер
Компьютер
Синтез звука
Превращение параметров, изображений,
движений, запахов в звуки и музыку
(сонификация, транскодинг)
Создание звукового фона
Подготовка звуков
1) Готовые звуковые
файлы
freesound.org
2) Синтез
Cubase, Reason
3) Запись в микрофон
Audacity
Сведение дорожек
Ableton Live
Микрофоны
Конденсаторный микрофон
Студийный
http://novotroitsk-rap.my1.ru/img/a4e6156c10.gif
http://harmonica.ru/content/study/articles/amplification_mics/
condenser.gif
Динамический микрофон
Концертный
Запись звука в Audacity
Запись, подрезка, нормализация, сохранение в файл (AIFF, WAV)
Сведение дорожек в Ableton Live
Пульты и контроллеры
Пульты и контроллеры
Обработка звука в Ableton Live
Обработка звука в Ableton Live
Обработка звука в Max/MSP
ekazha.wordpress.com/projects/line/
Перформанс “Одной линией”,
Екатерина Жаринова и Ольга Севостьянова, 2013г.
Обработка звука в Max/MSP
Анализ звука
Вычисление мгновенной громкости
Анализ спектра
Преобразования звука в изображение
https://masteringof.wordpress.com/examples/sounds/
Анализ звука
Звук обрабатывается блоками
(типичное значение - по 256 отсчётов)
44100 / 256 = 172,3 раза в секунду
0.0058 сек один блок
Чаще всего звуковые алгоритмы обрабатывают
полученный блок без задержки блоков, и суммарная
задержка между записью и воспроизведением равна
сумме двух блоков (запись + воспроизведение).
В нашем примере это 0.012 сек.
В то же время, сложные алгоритмы анализа звука могут
аккумулировать буферы для обработки; в этом случае,
итоговая задержка увеличивается.
Синтез звука
Источники входных данных:
Пульты
Датчики
Движения человека
Изображения
Видео
Звук также подаётся в звуковую карту блоками
(типичное значение - 256 отсчётов)
Пример - маятник; пусть его положение задаёт параметры звука

More Related Content

What's hot

Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]
Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]
Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]Александр Гуров
 
Звуковая система «Аллодов Онлайн».
Звуковая система «Аллодов Онлайн».Звуковая система «Аллодов Онлайн».
Звуковая система «Аллодов Онлайн».Андрей Бростовский
 
Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]
Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]
Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]Александр Гуров
 
1й урок
1й урок1й урок
1й урокDiana Der
 
Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]
Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]
Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]Александр Гуров
 
Мультимедиа технологии
Мультимедиа технологииМультимедиа технологии
Мультимедиа технологииImperiu3
 
особенности звука
особенности звукаособенности звука
особенности звукаmsnuta2012
 
Кодирование звуковой информации
Кодирование звуковой информацииКодирование звуковой информации
Кодирование звуковой информацииСергей Балан
 
Кодирование звуковой информации
Кодирование звуковой информацииКодирование звуковой информации
Кодирование звуковой информацииYakuncova-Irina
 
как замедлить темп аудиозаписи
как замедлить темп аудиозаписикак замедлить темп аудиозаписи
как замедлить темп аудиозаписиAnna Strelkovskaya
 
Презентация ученика 789678
Презентация ученика 789678Презентация ученика 789678
Презентация ученика 789678Sergeysitchov
 

What's hot (11)

Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]
Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]
Сравнительная характеристика клубных караоке-систем Evolution и AST [UA]
 
Звуковая система «Аллодов Онлайн».
Звуковая система «Аллодов Онлайн».Звуковая система «Аллодов Онлайн».
Звуковая система «Аллодов Онлайн».
 
Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]
Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]
Сравнительная характеристика клубных караоке-систем Evolution и AST [RU]
 
1й урок
1й урок1й урок
1й урок
 
Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]
Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]
Сравнительная характеристика клубных караоке-систем Evolution и AST [KZ]
 
Мультимедиа технологии
Мультимедиа технологииМультимедиа технологии
Мультимедиа технологии
 
особенности звука
особенности звукаособенности звука
особенности звука
 
Кодирование звуковой информации
Кодирование звуковой информацииКодирование звуковой информации
Кодирование звуковой информации
 
Кодирование звуковой информации
Кодирование звуковой информацииКодирование звуковой информации
Кодирование звуковой информации
 
как замедлить темп аудиозаписи
как замедлить темп аудиозаписикак замедлить темп аудиозаписи
как замедлить темп аудиозаписи
 
Презентация ученика 789678
Презентация ученика 789678Презентация ученика 789678
Презентация ученика 789678
 

Similar to Интерактивный звук (АГВЗ'15:3)

методическая разработка к лабораторной работе №1 «исследование процесса форми...
методическая разработка к лабораторной работе №1 «исследование процесса форми...методическая разработка к лабораторной работе №1 «исследование процесса форми...
методическая разработка к лабораторной работе №1 «исследование процесса форми...Иван Иванов
 
лекция 9
лекция 9лекция 9
лекция 9JIuc
 
методическая разработка к лабораторной работе №2 «исследование акустических х...
методическая разработка к лабораторной работе №2 «исследование акустических х...методическая разработка к лабораторной работе №2 «исследование акустических х...
методическая разработка к лабораторной работе №2 «исследование акустических х...Иван Иванов
 
Презентация сведение вокала
Презентация сведение вокалаПрезентация сведение вокала
Презентация сведение вокалаAlexandr Lozenko
 
Computer as a musical instrument by Sergey Moiseychik
Computer as a musical instrument by Sergey MoiseychikComputer as a musical instrument by Sergey Moiseychik
Computer as a musical instrument by Sergey MoiseychikEPAM Systems
 
Акустические системы
Акустические системыАкустические системы
Акустические системыDimitriy
 
Звуковая карта
Звуковая картаЗвуковая карта
Звуковая картаekspoO
 
презентация. микрофоны
презентация. микрофоныпрезентация. микрофоны
презентация. микрофоныguest51137f
 
презентация. микрофоны
презентация. микрофоныпрезентация. микрофоны
презентация. микрофоныguestd2d4b1
 

Similar to Интерактивный звук (АГВЗ'15:3) (13)

методическая разработка к лабораторной работе №1 «исследование процесса форми...
методическая разработка к лабораторной работе №1 «исследование процесса форми...методическая разработка к лабораторной работе №1 «исследование процесса форми...
методическая разработка к лабораторной работе №1 «исследование процесса форми...
 
лекция 9
лекция 9лекция 9
лекция 9
 
методическая разработка к лабораторной работе №2 «исследование акустических х...
методическая разработка к лабораторной работе №2 «исследование акустических х...методическая разработка к лабораторной работе №2 «исследование акустических х...
методическая разработка к лабораторной работе №2 «исследование акустических х...
 
Презентация сведение вокала
Презентация сведение вокалаПрезентация сведение вокала
Презентация сведение вокала
 
Computer as a musical instrument by Sergey Moiseychik
Computer as a musical instrument by Sergey MoiseychikComputer as a musical instrument by Sergey Moiseychik
Computer as a musical instrument by Sergey Moiseychik
 
Zvukovay karta
Zvukovay kartaZvukovay karta
Zvukovay karta
 
Zvukovay karta
Zvukovay kartaZvukovay karta
Zvukovay karta
 
Zvukovay karta
Zvukovay kartaZvukovay karta
Zvukovay karta
 
Акустические системы
Акустические системыАкустические системы
Акустические системы
 
Звуковая карта
Звуковая картаЗвуковая карта
Звуковая карта
 
Zvukovay karta
Zvukovay kartaZvukovay karta
Zvukovay karta
 
презентация. микрофоны
презентация. микрофоныпрезентация. микрофоны
презентация. микрофоны
 
презентация. микрофоны
презентация. микрофоныпрезентация. микрофоны
презентация. микрофоны
 

More from Denis Perevalov

Mobile Projections in Urban Spaces
Mobile Projections in Urban SpacesMobile Projections in Urban Spaces
Mobile Projections in Urban SpacesDenis Perevalov
 
Мобильные проекции в городских пространствах
Мобильные проекции в городских пространствахМобильные проекции в городских пространствах
Мобильные проекции в городских пространствахDenis Perevalov
 
Telepresense projects in open spaces
Telepresense projects in open spacesTelepresense projects in open spaces
Telepresense projects in open spacesDenis Perevalov
 
Проекты Telepresense в открытых пространствах
Проекты Telepresense в открытых пространствахПроекты Telepresense в открытых пространствах
Проекты Telepresense в открытых пространствахDenis Perevalov
 
С.Киселёва. БПЛА и задачи машинного зрения в БПЛА
С.Киселёва. БПЛА и задачи машинного зрения в БПЛАС.Киселёва. БПЛА и задачи машинного зрения в БПЛА
С.Киселёва. БПЛА и задачи машинного зрения в БПЛАDenis Perevalov
 
Программирование будущего - 2015
Программирование будущего - 2015Программирование будущего - 2015
Программирование будущего - 2015Denis Perevalov
 
Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...
Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...
Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...Denis Perevalov
 
Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...
Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...
Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...Denis Perevalov
 
Cветовые перформансы: примеры и технологии
Cветовые перформансы: примеры и технологииCветовые перформансы: примеры и технологии
Cветовые перформансы: примеры и технологииDenis Perevalov
 
Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.
Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.
Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.Denis Perevalov
 

More from Denis Perevalov (12)

Kuflex #1 Exhibition
Kuflex #1 Exhibition Kuflex #1 Exhibition
Kuflex #1 Exhibition
 
Mobile Projections in Urban Spaces
Mobile Projections in Urban SpacesMobile Projections in Urban Spaces
Mobile Projections in Urban Spaces
 
Мобильные проекции в городских пространствах
Мобильные проекции в городских пространствахМобильные проекции в городских пространствах
Мобильные проекции в городских пространствах
 
Telepresense projects in open spaces
Telepresense projects in open spacesTelepresense projects in open spaces
Telepresense projects in open spaces
 
Проекты Telepresense в открытых пространствах
Проекты Telepresense в открытых пространствахПроекты Telepresense в открытых пространствах
Проекты Telepresense в открытых пространствах
 
С.Киселёва. БПЛА и задачи машинного зрения в БПЛА
С.Киселёва. БПЛА и задачи машинного зрения в БПЛАС.Киселёва. БПЛА и задачи машинного зрения в БПЛА
С.Киселёва. БПЛА и задачи машинного зрения в БПЛА
 
Программирование будущего - 2015
Программирование будущего - 2015Программирование будущего - 2015
Программирование будущего - 2015
 
Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...
Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...
Шляхова С.И., Визуализация звукового поля с применением камеры и микрофона - ...
 
Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...
Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...
Шляхова С.И. Визуализация звукового поля с применением камеры и микрофона - п...
 
Cветовые перформансы: примеры и технологии
Cветовые перформансы: примеры и технологииCветовые перформансы: примеры и технологии
Cветовые перформансы: примеры и технологии
 
Обзор курса
Обзор курсаОбзор курса
Обзор курса
 
Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.
Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.
Распознавание листьев, Агеев П., Кузнецов А., Самойленко М.
 

Интерактивный звук (АГВЗ'15:3)

  • 1. Интерактивный звук с/к Анализ и генерация видео и звука в реальном времени Денис Перевалов, весна 2015 г., УрФУ-ИММ, г. Екатеринбург http://uralvision.blogspot.com http://vk.com/lections_media_processing https://www.facebook.com/LectionsMediaProcessing Цифровой звук Применения звука Типы микрофонов Запись звука в Audacity Сведение дорожек в Ableton Live Пульты и контроллеры Обработка звука в Max/MSP Анализ звука
  • 2. Что такое звук Звук, в широком смысле — упругие волны, продольно распространяющиеся в среде и создающие в ней механические колебания; в узком смысле — субъективное восприятие этих колебаний специальными органами чувств животных или человека. Как и любая волна, звук характеризуется амплитудой и частотой. (Википедия) http://blog.modernmechanix.com/mags/qf/c/PopularScience/9-1950/med_sound.jpg
  • 3. Представление звука в цифровом виде Реальный звук захватывается микрофоном, затем подвергается аналого- цифровому преобразованию. Разрешение по времени - частота дискретизации, [процедура - дискретизация] Разрешение по амплитуде - разрядность. [процедура - квантование] Амплитуда http://upload.wikimedia.org/wikipedia/commons/thumb/9/9a/Digital.signal.svg/567px-Digital.signal.svg.png Время
  • 4. Применения звука Создание звукового фона Воспроизведение готовых звуков и аудиотреков Компьютер Обработка звука Манипуляции со звуком, захватываемым прямо во время выступления (музыка, вокал, стихи) Компьютер Анализ звука Вычисление параметров звука (громкость, содержимое по частотам, темп, тон) и использования для визуализации Компьютер Компьютер Синтез звука Превращение параметров, изображений, движений, запахов в звуки и музыку (сонификация, транскодинг)
  • 5. Создание звукового фона Подготовка звуков 1) Готовые звуковые файлы freesound.org 2) Синтез Cubase, Reason 3) Запись в микрофон Audacity Сведение дорожек Ableton Live
  • 7. Запись звука в Audacity Запись, подрезка, нормализация, сохранение в файл (AIFF, WAV)
  • 9.
  • 12.
  • 13.
  • 16. Обработка звука в Max/MSP ekazha.wordpress.com/projects/line/ Перформанс “Одной линией”, Екатерина Жаринова и Ольга Севостьянова, 2013г.
  • 18. Анализ звука Вычисление мгновенной громкости Анализ спектра Преобразования звука в изображение https://masteringof.wordpress.com/examples/sounds/
  • 19. Анализ звука Звук обрабатывается блоками (типичное значение - по 256 отсчётов) 44100 / 256 = 172,3 раза в секунду 0.0058 сек один блок Чаще всего звуковые алгоритмы обрабатывают полученный блок без задержки блоков, и суммарная задержка между записью и воспроизведением равна сумме двух блоков (запись + воспроизведение). В нашем примере это 0.012 сек. В то же время, сложные алгоритмы анализа звука могут аккумулировать буферы для обработки; в этом случае, итоговая задержка увеличивается.
  • 20. Синтез звука Источники входных данных: Пульты Датчики Движения человека Изображения Видео Звук также подаётся в звуковую карту блоками (типичное значение - 256 отсчётов) Пример - маятник; пусть его положение задаёт параметры звука