The paper focuses on an approach to a near-duplicate videos search. The search is based on the comparison of scene relative lengths in the space L2. The comparison is made with Gale-Church hypothesis. The concept "shot descriptor" was introduced. To speed up the performance of this method, semantic hashing was suggested, i.e. a generalization of locally sensitive hashing.
В работе рассмотрен подход для поиска нечетких дубликатов видео. Поиск основан на сравнении относительных длин сцен в пространстве L2. Сравнение проводится с учетом гипотезы Гейла-Черча. Вводится понятие «дескриптора сцены». Для ускорения работы метода предложено использовать семантическое хеширование, обобщение локально чувствительного хеширования.
The paper focuses on an approach to a near-duplicate videos search. The search is based on the comparison of scene relative lengths in the space L2. The comparison is made with Gale-Church hypothesis. The concept "shot descriptor" was introduced. To speed up the performance of this method, semantic hashing was suggested, i.e. a generalization of locally sensitive hashing.
В работе рассмотрен подход для поиска нечетких дубликатов видео. Поиск основан на сравнении относительных длин сцен в пространстве L2. Сравнение проводится с учетом гипотезы Гейла-Черча. Вводится понятие «дескриптора сцены». Для ускорения работы метода предложено использовать семантическое хеширование, обобщение локально чувствительного хеширования.
2024 State of Marketing Report – by HubspotMarius Sescu
https://www.hubspot.com/state-of-marketing
· Scaling relationships and proving ROI
· Social media is the place for search, sales, and service
· Authentic influencer partnerships fuel brand growth
· The strongest connections happen via call, click, chat, and camera.
· Time saved with AI leads to more creative work
· Seeking: A single source of truth
· TLDR; Get on social, try AI, and align your systems.
· More human marketing, powered by robots
ChatGPT is a revolutionary addition to the world since its introduction in 2022. A big shift in the sector of information gathering and processing happened because of this chatbot. What is the story of ChatGPT? How is the bot responding to prompts and generating contents? Swipe through these slides prepared by Expeed Software, a web development company regarding the development and technical intricacies of ChatGPT!
Product Design Trends in 2024 | Teenage EngineeringsPixeldarts
The realm of product design is a constantly changing environment where technology and style intersect. Every year introduces fresh challenges and exciting trends that mold the future of this captivating art form. In this piece, we delve into the significant trends set to influence the look and functionality of product design in the year 2024.
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
Mental health has been in the news quite a bit lately. Dozens of U.S. states are currently suing Meta for contributing to the youth mental health crisis by inserting addictive features into their products, while the U.S. Surgeon General is touring the nation to bring awareness to the growing epidemic of loneliness and isolation. The country has endured periods of low national morale, such as in the 1970s when high inflation and the energy crisis worsened public sentiment following the Vietnam War. The current mood, however, feels different. Gallup recently reported that national mental health is at an all-time low, with few bright spots to lift spirits.
To better understand how Americans are feeling and their attitudes towards mental health in general, ThinkNow conducted a nationally representative quantitative survey of 1,500 respondents and found some interesting differences among ethnic, age and gender groups.
Technology
For example, 52% agree that technology and social media have a negative impact on mental health, but when broken out by race, 61% of Whites felt technology had a negative effect, and only 48% of Hispanics thought it did.
While technology has helped us keep in touch with friends and family in faraway places, it appears to have degraded our ability to connect in person. Staying connected online is a double-edged sword since the same news feed that brings us pictures of the grandkids and fluffy kittens also feeds us news about the wars in Israel and Ukraine, the dysfunction in Washington, the latest mass shooting and the climate crisis.
Hispanics may have a built-in defense against the isolation technology breeds, owing to their large, multigenerational households, strong social support systems, and tendency to use social media to stay connected with relatives abroad.
Age and Gender
When asked how individuals rate their mental health, men rate it higher than women by 11 percentage points, and Baby Boomers rank it highest at 83%, saying it’s good or excellent vs. 57% of Gen Z saying the same.
Gen Z spends the most amount of time on social media, so the notion that social media negatively affects mental health appears to be correlated. Unfortunately, Gen Z is also the generation that’s least comfortable discussing mental health concerns with healthcare professionals. Only 40% of them state they’re comfortable discussing their issues with a professional compared to 60% of Millennials and 65% of Boomers.
Race Affects Attitudes
As seen in previous research conducted by ThinkNow, Asian Americans lag other groups when it comes to awareness of mental health issues. Twenty-four percent of Asian Americans believe that having a mental health issue is a sign of weakness compared to the 16% average for all groups. Asians are also considerably less likely to be aware of mental health services in their communities (42% vs. 55%) and most likely to seek out information on social media (51% vs. 35%).
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
This article is all about what AI trends will emerge in the field of creative operations in 2024. All the marketers and brand builders should be aware of these trends for their further use and save themselves some time!
A report by thenetworkone and Kurio.
The contributing experts and agencies are (in an alphabetical order): Sylwia Rytel, Social Media Supervisor, 180heartbeats + JUNG v MATT (PL), Sharlene Jenner, Vice President - Director of Engagement Strategy, Abelson Taylor (USA), Alex Casanovas, Digital Director, Atrevia (ES), Dora Beilin, Senior Social Strategist, Barrett Hoffher (USA), Min Seo, Campaign Director, Brand New Agency (KR), Deshé M. Gully, Associate Strategist, Day One Agency (USA), Francesca Trevisan, Strategist, Different (IT), Trevor Crossman, CX and Digital Transformation Director; Olivia Hussey, Strategic Planner; Simi Srinarula, Social Media Manager, The Hallway (AUS), James Hebbert, Managing Director, Hylink (CN / UK), Mundy Álvarez, Planning Director; Pedro Rojas, Social Media Manager; Pancho González, CCO, Inbrax (CH), Oana Oprea, Head of Digital Planning, Jam Session Agency (RO), Amy Bottrill, Social Account Director, Launch (UK), Gaby Arriaga, Founder, Leonardo1452 (MX), Shantesh S Row, Creative Director, Liwa (UAE), Rajesh Mehta, Chief Strategy Officer; Dhruv Gaur, Digital Planning Lead; Leonie Mergulhao, Account Supervisor - Social Media & PR, Medulla (IN), Aurelija Plioplytė, Head of Digital & Social, Not Perfect (LI), Daiana Khaidargaliyeva, Account Manager, Osaka Labs (UK / USA), Stefanie Söhnchen, Vice President Digital, PIABO Communications (DE), Elisabeth Winiartati, Managing Consultant, Head of Global Integrated Communications; Lydia Aprina, Account Manager, Integrated Marketing and Communications; Nita Prabowo, Account Manager, Integrated Marketing and Communications; Okhi, Web Developer, PNTR Group (ID), Kei Obusan, Insights Director; Daffi Ranandi, Insights Manager, Radarr (SG), Gautam Reghunath, Co-founder & CEO, Talented (IN), Donagh Humphreys, Head of Social and Digital Innovation, THINKHOUSE (IRE), Sarah Yim, Strategy Director, Zulu Alpha Kilo (CA).
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
The search marketing landscape is evolving rapidly with new technologies, and professionals, like you, rely on innovative paid search strategies to meet changing demands.
It’s important that you’re ready to implement new strategies in 2024.
Check this out and learn the top trends in paid search advertising that are expected to gain traction, so you can drive higher ROI more efficiently in 2024.
You’ll learn:
- The latest trends in AI and automation, and what this means for an evolving paid search ecosystem.
- New developments in privacy and data regulation.
- Emerging ad formats that are expected to make an impact next year.
Watch Sreekant Lanka from iQuanti and Irina Klein from OneMain Financial as they dive into the future of paid search and explore the trends, strategies, and technologies that will shape the search marketing landscape.
If you’re looking to assess your paid search strategy and design an industry-aligned plan for 2024, then this webinar is for you.
5 Public speaking tips from TED - Visualized summarySpeakerHub
From their humble beginnings in 1984, TED has grown into the world’s most powerful amplifier for speakers and thought-leaders to share their ideas. They have over 2,400 filmed talks (not including the 30,000+ TEDx videos) freely available online, and have hosted over 17,500 events around the world.
With over one billion views in a year, it’s no wonder that so many speakers are looking to TED for ideas on how to share their message more effectively.
The article “5 Public-Speaking Tips TED Gives Its Speakers”, by Carmine Gallo for Forbes, gives speakers five practical ways to connect with their audience, and effectively share their ideas on stage.
Whether you are gearing up to get on a TED stage yourself, or just want to master the skills that so many of their speakers possess, these tips and quotes from Chris Anderson, the TED Talks Curator, will encourage you to make the most impactful impression on your audience.
See the full article and more summaries like this on SpeakerHub here: https://speakerhub.com/blog/5-presentation-tips-ted-gives-its-speakers
See the original article on Forbes here:
http://www.forbes.com/forbes/welcome/?toURL=http://www.forbes.com/sites/carminegallo/2016/05/06/5-public-speaking-tips-ted-gives-its-speakers/&refURL=&referrer=#5c07a8221d9b
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
Everyone is in agreement that ChatGPT (and other generative AI tools) will shape the future of work. Yet there is little consensus on exactly how, when, and to what extent this technology will change our world.
Businesses that extract maximum value from ChatGPT will use it as a collaborative tool for everything from brainstorming to technical maintenance.
For individuals, now is the time to pinpoint the skills the future professional will need to thrive in the AI age.
Check out this presentation to understand what ChatGPT is, how it will shape the future of work, and how you can prepare to take advantage.
A brief introduction to DataScience with explaining of the concepts, algorithms, machine learning, supervised and unsupervised learning, clustering, statistics, data preprocessing, real-world applications etc.
It's part of a Data Science Corner Campaign where I will be discussing the fundamentals of DataScience, AIML, Statistics etc.
Time Management & Productivity - Best PracticesVit Horky
Here's my presentation on by proven best practices how to manage your work time effectively and how to improve your productivity. It includes practical tips and how to use tools such as Slack, Google Apps, Hubspot, Google Calendar, Gmail and others.
The six step guide to practical project managementMindGenius
The six step guide to practical project management
If you think managing projects is too difficult, think again.
We’ve stripped back project management processes to the
basics – to make it quicker and easier, without sacrificing
the vital ingredients for success.
“If you’re looking for some real-world guidance, then The Six Step Guide to Practical Project Management will help.”
Dr Andrew Makar, Tactical Project Management
2024 State of Marketing Report – by HubspotMarius Sescu
https://www.hubspot.com/state-of-marketing
· Scaling relationships and proving ROI
· Social media is the place for search, sales, and service
· Authentic influencer partnerships fuel brand growth
· The strongest connections happen via call, click, chat, and camera.
· Time saved with AI leads to more creative work
· Seeking: A single source of truth
· TLDR; Get on social, try AI, and align your systems.
· More human marketing, powered by robots
ChatGPT is a revolutionary addition to the world since its introduction in 2022. A big shift in the sector of information gathering and processing happened because of this chatbot. What is the story of ChatGPT? How is the bot responding to prompts and generating contents? Swipe through these slides prepared by Expeed Software, a web development company regarding the development and technical intricacies of ChatGPT!
Product Design Trends in 2024 | Teenage EngineeringsPixeldarts
The realm of product design is a constantly changing environment where technology and style intersect. Every year introduces fresh challenges and exciting trends that mold the future of this captivating art form. In this piece, we delve into the significant trends set to influence the look and functionality of product design in the year 2024.
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
Mental health has been in the news quite a bit lately. Dozens of U.S. states are currently suing Meta for contributing to the youth mental health crisis by inserting addictive features into their products, while the U.S. Surgeon General is touring the nation to bring awareness to the growing epidemic of loneliness and isolation. The country has endured periods of low national morale, such as in the 1970s when high inflation and the energy crisis worsened public sentiment following the Vietnam War. The current mood, however, feels different. Gallup recently reported that national mental health is at an all-time low, with few bright spots to lift spirits.
To better understand how Americans are feeling and their attitudes towards mental health in general, ThinkNow conducted a nationally representative quantitative survey of 1,500 respondents and found some interesting differences among ethnic, age and gender groups.
Technology
For example, 52% agree that technology and social media have a negative impact on mental health, but when broken out by race, 61% of Whites felt technology had a negative effect, and only 48% of Hispanics thought it did.
While technology has helped us keep in touch with friends and family in faraway places, it appears to have degraded our ability to connect in person. Staying connected online is a double-edged sword since the same news feed that brings us pictures of the grandkids and fluffy kittens also feeds us news about the wars in Israel and Ukraine, the dysfunction in Washington, the latest mass shooting and the climate crisis.
Hispanics may have a built-in defense against the isolation technology breeds, owing to their large, multigenerational households, strong social support systems, and tendency to use social media to stay connected with relatives abroad.
Age and Gender
When asked how individuals rate their mental health, men rate it higher than women by 11 percentage points, and Baby Boomers rank it highest at 83%, saying it’s good or excellent vs. 57% of Gen Z saying the same.
Gen Z spends the most amount of time on social media, so the notion that social media negatively affects mental health appears to be correlated. Unfortunately, Gen Z is also the generation that’s least comfortable discussing mental health concerns with healthcare professionals. Only 40% of them state they’re comfortable discussing their issues with a professional compared to 60% of Millennials and 65% of Boomers.
Race Affects Attitudes
As seen in previous research conducted by ThinkNow, Asian Americans lag other groups when it comes to awareness of mental health issues. Twenty-four percent of Asian Americans believe that having a mental health issue is a sign of weakness compared to the 16% average for all groups. Asians are also considerably less likely to be aware of mental health services in their communities (42% vs. 55%) and most likely to seek out information on social media (51% vs. 35%).
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
This article is all about what AI trends will emerge in the field of creative operations in 2024. All the marketers and brand builders should be aware of these trends for their further use and save themselves some time!
A report by thenetworkone and Kurio.
The contributing experts and agencies are (in an alphabetical order): Sylwia Rytel, Social Media Supervisor, 180heartbeats + JUNG v MATT (PL), Sharlene Jenner, Vice President - Director of Engagement Strategy, Abelson Taylor (USA), Alex Casanovas, Digital Director, Atrevia (ES), Dora Beilin, Senior Social Strategist, Barrett Hoffher (USA), Min Seo, Campaign Director, Brand New Agency (KR), Deshé M. Gully, Associate Strategist, Day One Agency (USA), Francesca Trevisan, Strategist, Different (IT), Trevor Crossman, CX and Digital Transformation Director; Olivia Hussey, Strategic Planner; Simi Srinarula, Social Media Manager, The Hallway (AUS), James Hebbert, Managing Director, Hylink (CN / UK), Mundy Álvarez, Planning Director; Pedro Rojas, Social Media Manager; Pancho González, CCO, Inbrax (CH), Oana Oprea, Head of Digital Planning, Jam Session Agency (RO), Amy Bottrill, Social Account Director, Launch (UK), Gaby Arriaga, Founder, Leonardo1452 (MX), Shantesh S Row, Creative Director, Liwa (UAE), Rajesh Mehta, Chief Strategy Officer; Dhruv Gaur, Digital Planning Lead; Leonie Mergulhao, Account Supervisor - Social Media & PR, Medulla (IN), Aurelija Plioplytė, Head of Digital & Social, Not Perfect (LI), Daiana Khaidargaliyeva, Account Manager, Osaka Labs (UK / USA), Stefanie Söhnchen, Vice President Digital, PIABO Communications (DE), Elisabeth Winiartati, Managing Consultant, Head of Global Integrated Communications; Lydia Aprina, Account Manager, Integrated Marketing and Communications; Nita Prabowo, Account Manager, Integrated Marketing and Communications; Okhi, Web Developer, PNTR Group (ID), Kei Obusan, Insights Director; Daffi Ranandi, Insights Manager, Radarr (SG), Gautam Reghunath, Co-founder & CEO, Talented (IN), Donagh Humphreys, Head of Social and Digital Innovation, THINKHOUSE (IRE), Sarah Yim, Strategy Director, Zulu Alpha Kilo (CA).
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
The search marketing landscape is evolving rapidly with new technologies, and professionals, like you, rely on innovative paid search strategies to meet changing demands.
It’s important that you’re ready to implement new strategies in 2024.
Check this out and learn the top trends in paid search advertising that are expected to gain traction, so you can drive higher ROI more efficiently in 2024.
You’ll learn:
- The latest trends in AI and automation, and what this means for an evolving paid search ecosystem.
- New developments in privacy and data regulation.
- Emerging ad formats that are expected to make an impact next year.
Watch Sreekant Lanka from iQuanti and Irina Klein from OneMain Financial as they dive into the future of paid search and explore the trends, strategies, and technologies that will shape the search marketing landscape.
If you’re looking to assess your paid search strategy and design an industry-aligned plan for 2024, then this webinar is for you.
5 Public speaking tips from TED - Visualized summarySpeakerHub
From their humble beginnings in 1984, TED has grown into the world’s most powerful amplifier for speakers and thought-leaders to share their ideas. They have over 2,400 filmed talks (not including the 30,000+ TEDx videos) freely available online, and have hosted over 17,500 events around the world.
With over one billion views in a year, it’s no wonder that so many speakers are looking to TED for ideas on how to share their message more effectively.
The article “5 Public-Speaking Tips TED Gives Its Speakers”, by Carmine Gallo for Forbes, gives speakers five practical ways to connect with their audience, and effectively share their ideas on stage.
Whether you are gearing up to get on a TED stage yourself, or just want to master the skills that so many of their speakers possess, these tips and quotes from Chris Anderson, the TED Talks Curator, will encourage you to make the most impactful impression on your audience.
See the full article and more summaries like this on SpeakerHub here: https://speakerhub.com/blog/5-presentation-tips-ted-gives-its-speakers
See the original article on Forbes here:
http://www.forbes.com/forbes/welcome/?toURL=http://www.forbes.com/sites/carminegallo/2016/05/06/5-public-speaking-tips-ted-gives-its-speakers/&refURL=&referrer=#5c07a8221d9b
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
Everyone is in agreement that ChatGPT (and other generative AI tools) will shape the future of work. Yet there is little consensus on exactly how, when, and to what extent this technology will change our world.
Businesses that extract maximum value from ChatGPT will use it as a collaborative tool for everything from brainstorming to technical maintenance.
For individuals, now is the time to pinpoint the skills the future professional will need to thrive in the AI age.
Check out this presentation to understand what ChatGPT is, how it will shape the future of work, and how you can prepare to take advantage.
A brief introduction to DataScience with explaining of the concepts, algorithms, machine learning, supervised and unsupervised learning, clustering, statistics, data preprocessing, real-world applications etc.
It's part of a Data Science Corner Campaign where I will be discussing the fundamentals of DataScience, AIML, Statistics etc.
Time Management & Productivity - Best PracticesVit Horky
Here's my presentation on by proven best practices how to manage your work time effectively and how to improve your productivity. It includes practical tips and how to use tools such as Slack, Google Apps, Hubspot, Google Calendar, Gmail and others.
The six step guide to practical project managementMindGenius
The six step guide to practical project management
If you think managing projects is too difficult, think again.
We’ve stripped back project management processes to the
basics – to make it quicker and easier, without sacrificing
the vital ingredients for success.
“If you’re looking for some real-world guidance, then The Six Step Guide to Practical Project Management will help.”
Dr Andrew Makar, Tactical Project Management
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Распределенная статистическая система машинного перевода (Distributed statistical machine translation system)
1. Введение Принципы Архитектура Оценка Перспективы
Распределенное
программно-информационное
обеспечение статистической модели
перевода естественных языков
Е. C. Гаврилов и И. К. Никитин
19 января 2012 г.
Е. C. Гаврилов и И. К. Никитин Статистический машинный перевод
2. Введение Принципы Архитектура Оценка Перспективы
Cодержание
Введение Архитектура Оценка
Причины Обзор Примеры
Методы Обучение BLEU
Принципы Декодеривание Скорость
Модель Шеннона Цена
Модель языка Перспективы
Модель перевода Результаты
Декодер Развитие
Е. C. Гаврилов и И. К. Никитин #2 35 | Статистический машинный перевод
3. Введение Принципы Архитектура Оценка Перспективы Причины Методы
Для чего нужен машинный перевод?
бытовой перевод:
книги,
переписка;
поиск в Интернете на разных языках (внутри поисковых
алгоритмов и дополнительная функция для пользователя);
перевод научных публикаций c других языков;
применения достижений в других областях:
автоматическое реферирование,
распознавание речи,
распознавание последовательностей аминокислот (ДНК).
Е. C. Гаврилов и И. К. Никитин #3 35 | Статистический машинный перевод
4. Введение Принципы Архитектура Оценка Перспективы Причины Методы
Основные методы машинного перевода
М .
. ашинный перевод
.
П .
. равила Д .
. анные
П
. ословные
. И
. нтерлингвистические
. О
. снованные . примерах
на
Т
. рансферные
. С
. татистические
.
Е. C. Гаврилов и И. К. Никитин #4 35 | Статистический машинный перевод
5. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель зашумленного канала (1)
Ш
. ум
И
. сточник (R)
. П .
. ередачик
. П
. риемник
. Ц .
. ель (E)
1. Пусть ϕr — фраза оригинала (русская).
2. Требуется найти ϕe — фразу перевода (английскую).
Максимизировать P(ϕe |ϕr ).
(P(ϕe ) · P(ϕr |ϕe ))
P(ϕe |ϕr ) = ⇒
P(ϕr )
ϕeg = arg max P(ϕe |ϕr ) = arg max (P(ϕe ) · P(ϕr |ϕe ))
∪ϕe ∪ϕe
Е. C. Гаврилов и И. К. Никитин #5 35 | Статистический машинный перевод
6. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
С
. татистическая система машинного перевода
.
Модель языка Модель перевода
. . . .
P(ϕe ) P(ϕr |ϕe )
arg max P(ϕe |ϕr ) = arg max (P(ϕe ) · P(ϕr |ϕe ))
∪ϕe ∪ϕe
ϕe — фраза перевода (английская);
ϕr — фраза оригинала (русская).
Е. C. Гаврилов и И. К. Никитин #6 35 | Статистический машинный перевод
7. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
С
. татистическая система машинного перевода
.
Модель языка Модель перевода
. . . .
P(ϕe ) P(ϕr |ϕe )
Декодер
. .
arg max (P(ϕe ) · P(ϕr |ϕe ))
∪ϕe
Е. C. Гаврилов и И. К. Никитин #7 35 | Статистический машинный перевод
8. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
С
. татистическая система машинного перевода
.
Модель языка Модель перевода
. . . .
P(ϕe ) P(ϕr |ϕe )
Декодер
. .
arg max (P(ϕe ) · P(ϕr |ϕe ))
∪ϕe
Параллельный
Корпус текста
. . . корпус .
текста
на языке ϕe . на языках ϕe и ϕr .
Е. C. Гаврилов и И. К. Никитин #8 35 | Статистический машинный перевод
9. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель языка
Правильный порядок слов.
Вычисляется с помощью n-грамм слов. Пример для 3-грамм:
(ω1 ,
ω2 , ω3 );
(ω ,
2 ω3 , ω4 );
ϕ = (ω1 , ω2 , ω3 , ω4 , . . . , ωl ) ⇒
.
.
.
. .
.
.
. .
(ωl−2 , ωl−1 , ωl ).
Вычисляется по формуле:
∏
i=l+n−1
P(ϕ) = P(ω1 . . . ωl ) = P (ωi |ωi−1 . . . ωi−n+1 ).
i=0
Е. C. Гаврилов и И. К. Никитин #9 35 | Статистический машинный перевод
10. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель языка (подробнее)
Вычисляется с помощью n-грамм слов.
∏
i=l+n−1
P(ω1 . . . ωl ) = P (ωi |ωi−1 . . . ωi−n+1 )
i=0
P (ωm |ω1 . . . ωm−1 ) = Kn · P(ωm |ω1 . . . ωm−1 ) + . . . + K1 · P(ω1 ) + K0 ;
частота (ω1 )
P(ω1 ) = ;
|Θ|
частота (ω1 . . . ωm−1 ωm )
P(ωm |ω1 . . . ωm−1 ) = ;
частота (ω1 . . . ωm−1 )
∑
i=n
Ki — коэффициенты сглаживания Ki > Ki+1 и Ki = 1.0.
i=0
Е. C. Гаврилов и И. К. Никитин #10 35 | Статистический машинный перевод
11. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель языка (адаптивные модели)
∏
i=l+n−1
P(ω1 . . . ωl ) = P (ωi |ωi−1 . . . ωi−n+1 )
i=0
P можно вычислить иначе, используя адаптивный метод сглаживания
δ + частота (ω1 . . . ωm )
P (ωm |ω1 . . . ωm−1 ) = ∑ ( ) =
δ + частота (ω1j . . . ωmj )
i
δ + частота (ω1 . . . ωm )
= ∑( )
δ·V+ частота (ω1j . . . ωmj )
i
V — количество всех n-грамм в используемом корпусе;
δ = 1 — метод сглаживания Лапласа;
δ = 1 ⇒ методы Гуда-Тьюринга, Катца, Кнезера-Нейя.
Е. C. Гаврилов и И. К. Никитин #11 35 | Статистический машинный перевод
12. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Введем обозначения
Θe — «английский» текст (множество предложений);
Θr — «русский» текст;
Πe — «английское» предложение (последовательность
слов);
Πr — «русское» предложение;
ωe — «английское» слово;
ωr — «русское» слово;
Е. C. Гаврилов и И. К. Никитин #12 35 | Статистический машинный перевод
13. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель перевода (1)
Вводим выравнивание для пары предложений Πe , Πr .
Для выравнивания нужны вероятности лексического
перевода ωe → ωr .
Для вероятности лексического перевода нужны
выравнивания.
Проблема «курицы и яйца».
Е. C. Гаврилов и И. К. Никитин #13 35 | Статистический машинный перевод
14. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель перевода (2)
Пусть P(Πe |Πr ) — вероятность некоторой строки (предложения) из e,
при гипотезе перевода из r.
∑
P(Πe |Πr ) = P(Πe , a|Πr );
a
a — выравнивание между отдельными словами в паре предложений.
Вероятность перевода:
ε ∏
le
P(Πe , a|Πr ) = t(ωej |ωra(j) )
(lr + 1)le
j=1
t — это вероятность слова оригинала в позиции j при соответствующем
ему слове перевода ωra(j) , определенном выравниванием a.
Е. C. Гаврилов и И. К. Никитин #14 35 | Статистический машинный перевод
15. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель перевода (3)
P(Πe , a|Πr )
P(a|Πe , Πr ) = ∑
P(Πe , a|Πr )
a
Имея набор выравниваний с определенными вероятностями, мы можем
подсчитать частоты каждой пары слов,
counts(ωe |ωr ) counts(ωe |ωr )
t(ωe |ωr ) = ∑ = ;
counts(ωe |ωr ) total(ωr )
ωe
Требуется оценить вероятности лексического перевода t(ωe |ωr ) Но
чтобы сделать это нужно вычислить a, которой у нас нет.
Е. C. Гаврилов и И. К. Никитин #15 35 | Статистический машинный перевод
16. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Модель перевода (4)
Для оценки параметров −→ EM-алгоритм (Витерби).
инициализируем параметры модели (одинаковыми
значениями, на первой итерации);
оценим вероятности отсутствующей информации;
оценим параметры модели на основании новой информации;
перейдем к следующей итерации.
Е. C. Гаврилов и И. К. Никитин #16 35 | Статистический машинный перевод
17. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Базовый-алгоритм(Θe , Θr )
1 ∀ ωe ∈ Πe ∈ Θe : £ Инициализируем таблицу t(ωe |ωr )
2 ∀ωr ∈ Πr ∈ Θr : £ одинаковыми значениями.
3 t(ωe |ωr ) ← u, u ∈ R; £ Лочично, если u = число(ω1
e i ∈Θe )
4 пока не сойдется : £ Все t(ωe |ωr ) или 0 или 1.
5 ∀ ωe ∈ Πe ∈ Θe : £ Инициализируем остальные таблицы.
6 ∀ωr ∈ Πr ∈ Θr :
7 counts(ωe |ωr ) ← 0; total(ωr ) ← 0;
8 ∀ Πe , Πr ∈ Θe , Θr : £ Вычисляем нормализациию.
9 ∀ ωe ∈ Π e :
10 stotal(ωe ) ← 0; £ Создаем временную таблицу.
11 ∀ ωr ∈ Π r :
12 stotal(ωe ) ← stotal(ωe ) + t(ωe |ωr );
13 ∀ ωe ∈ Πe : £ Собираем подсчеты.
14 ∀ ωr ∈ Π r :
t(ωe |ωr )
15 counts(ωe |ωr ) ← counts(ωe |ωr ) + ;
stotal(ωe )
t(ωe |ωr )
16 total(ωr ) ← total(ωr ) + ;
stotal(ωe )
17 ∀ ωe ∈ Θe : £ Вычисляем оценку максимального правдоподобия
18 ∀ωr ∈ Θr : £ для распределения Бернули.
counts(ωe |ωr )
19 t(ωe |ωr ) ← ;
total(ωr )
Е. C. Гаврилов и И. К. Никитин #17 35 | Статистический машинный перевод
18. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
∃ Отличия от других систем
Система используется для перевода научно-технической литературы.
.
Слова → n-грамы .
..
⇐ Устойчивые формальные выражения в научных текстах.
.
.. .
.
.
Выравнивание по круппным группам n-грам .
..
⇐ прямой порядок слов;
⇐ стереотипная структура предложений.
.
.. .
.
.
Модели низких порядков .
..
⇐ важность локального порядка слов;
⇐ фертильности и вероятностной грамматики могут его разрушить.
.
.. .
.
Е. C. Гаврилов и И. К. Никитин #18 35 | Статистический машинный перевод
19. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Декодер
Среди всех возможных вариантов .
Исходная фраза
.
ϕr
перевода выбрать правильный:
полный перебор;
Модель Модель
. перевода
. . языка
.
A*: P(ϕr |ϕe ) P(ϕe )
Д .
. екодер
стековый поиск,
многостековый поиск;
жадный инкрементный поиск;
Перевод исходной фразы
.
сведение к обобщенной задаче arg max (P(ϕe ) · P(ϕr |ϕe ))
ϕe
коммивояжера.
Е. C. Гаврилов и И. К. Никитин #19 35 | Статистический машинный перевод
20. Введение Принципы Архитектура Оценка Перспективы Модель Шеннона Модель языка Модель перевода Декодер
Жадный инкрементный поиск
простой и быстрый поиск;
«плохой» вариант перевода получаем сразу;
последовательно применяя набор операций можем
улучшить перевод;
изменить перевод слова (группы слов, n-граммы),
удалить слово (группу слов, n-грамму),
поменять слова местами (группы слов, n-граммы);
можно делать отсечку по времени;
можем сразу оценить модель языка большой фразы.
Е. C. Гаврилов и И. К. Никитин #20 35 | Статистический машинный перевод
21. Введение Принципы Архитектура Оценка Перспективы Обзор Обучение Декодеривание
∃ Из чего состоит система
Читатель
. орпус .En, Ru
К . .
Erlang П
. РС-СМП
Набор приложений.
Могут быть удалены
База данных
.
. Декодер
.
. друг от друга. . .
Redis Erlang
Распределены
где это возможно.
. нтерфейсы
и
. еб
В .
. est
R .
Обработчик
.
. онсоль
К .
.
Erlang
.
Е. C. Гаврилов и И. К. Никитин #21 35 | Статистический машинный перевод
22. Введение Принципы Архитектура Оценка Перспективы Обзор Обучение Декодеривание
. .
Читатель . Обработчик .
.. ..
Nчит. < Nобр.
. .
.. .
.
.. .
.
Е. C. Гаврилов и И. К. Никитин #22 35 | Статистический машинный перевод
23. Введение Принципы Архитектура Оценка Перспективы Обзор Обучение Декодеривание
.
Декодер .
..
жадный инкрементный
поиск;
два режима работы:
перевода,
улучшения.
пошаговый веб-интерфейс;
потоковый RESTful-сервис;
пошаговый консольный
интерфейс.
.
.. .
.
Е. C. Гаврилов и И. К. Никитин #23 35 | Статистический машинный перевод
24. Введение Принципы Архитектура Оценка Перспективы Обзор Обучение Декодеривание
∃ Детали работы декодера (1)
В первом режиме работы на вход принимается исходный
текст.
Последовательно разбивается на n-граммы.
Сначала наибольшего размера.
n-граммы ищутся в базе данных.
Если нашли, выбираем наиболее вероятную.
Если нет, берем n-грамму меньшего размера, слова (1-граммы)
возвращаем как есть.
Вычисляем величину неопределенности.
Во втором режиме работы на вход принимается:
исходный текст (ИТ);
переводной текст (ПТ) c предыдущей итерации
величина неопределенности (ВН).
Е. C. Гаврилов и И. К. Никитин #24 35 | Статистический машинный перевод
25. Введение Принципы Архитектура Оценка Перспективы Обзор Обучение Декодеривание
∃ Детали работы декодера (2)
Sηe Sωe
∑ ∑
− S 1 log2 P(ηe i )+ S 1 log2 P(ωr j |ωe j )
ηe ωe
i=1 j=1
ВН = 2
ηe — n-граммы высокого порядка найденные в созданном тексте;
Sηe — количество таких n-грамм;
P(ηe ) — вероятность n-грамм согласно языковой модели
(вычисляется как указано раннее);
ωe — n-граммы (слова) как результат перевода согласно модели
перевода;
Sωe — количество таких n-грамм (слов);
P(ωrj |ωej ) — вероятность перевода фразы ωej на ωrj .
Е. C. Гаврилов и И. К. Никитин #25 35 | Статистический машинный перевод
26. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
∃ Примеры (1)
Оригинал
... adopted at the 81st plenary meeting ...
Переводчик
... принята на 81-м пленарном заседании ...
Система
... принята без голосования на 81 пленарном заседании
в Брюсселе ...
Е. C. Гаврилов и И. К. Никитин #26 35 | Статистический машинный перевод
27. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
∃ Примеры (2)
Оригинал
It will be instructive to exhibit Euclid’s algorithm here.
Переводчик
Думаю, имеет смысл привести здесь описание этого алгоритма.
Система
Будет поучительно выставить алгоритм Евклида здесь.
Е. C. Гаврилов и И. К. Никитин #27 35 | Статистический машинный перевод
28. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
∃ Примеры (3)
Оригинал
Many years have passed since the author wrote most of the
comments above ...
Переводчик
Со времени первого написания автором большинства
приведенных выше комментариев утекло много воды ...
Система
Много лет прошло с тех пор, автор написал большую часть
комментариев выше ...
Е. C. Гаврилов и И. К. Никитин #28 35 | Статистический машинный перевод
29. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
Оценка с использованием метрики BLEU (1)
BLEU — Bilingual Evaluation Understudy
Численная оценка качества перевода.
Нужен перевод, выполненный человеком.
Система BLEU
Показывает величину близости ПРС-СМП (1) 0.243
к «человеческому» переводу. ПРС-СМП (100) 0.209
Чем меньше величина, тем лучше. Moses (IBM 3) 0.201
Сравнивались: Moses (IBM 5) 0.173
ПРС-СМП;
cистемы построенная на основе
Moses.
Е. C. Гаврилов и И. К. Никитин #29 35 | Статистический машинный перевод
30. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
Оценка с использованием метрики BLEU (2)
( )
∑
N
Wn log(pn )
BLEU = Bp · e n=1
∑ ∑
числосреза (ηc )
1, lc > lh ; C∈Sc ηc ∈C
Bp = ( l
) и pn = ∑ ∑
e 1− lh
c , lc lh . число(ηc )
C∈Sc ηc ∈C
Bp — штраф за краткость;
lc — длинна кандидата перевода;
lh — длинна экспертного перевода (выполненного человеком);
Sc — множество кандидатов на перевод;
C — кандидат на перевод;
ηc — n-грамма кандидата на перевод;
числосреза — число n-грамм кандидата перевода,
которые встретились в переводе эксперта;
1
Wn = — вес;
N
Е. C. Гаврилов и И. К. Никитин #30 35 | Статистический машинный перевод
31. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
Оценка скорости обучения
Процессор: Intel Core2 Duo, 1 ядро 64 бит, ОП 4Гб, ФС:ext4
Система Время, ч
ПРС-СМП (1) ≈5
Moses (GIZA++) ≈ 25
Chaski (MGIZA++) ≈ 26
Процессор: Intel Xeon E5506, 8 ядер 64 бит, ОП 10Гб, ФС:xfs
Система Время, ч
ПРС-СМП (1) ≈1
Moses (GIZA++) ≈ 22
Chaski (MGIZA++) ≈3
Е. C. Гаврилов и И. К. Никитин #31 35 | Статистический машинный перевод
32. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
Оценка скорости декодирования
Процессор: Intel Core2 Duo, 1 ядро 64 бит, ОП 4Гб, ФС:ext4
Система Время, мкс
ПРС-СМП (1) 1132
ПРС-СМП (100) 7108124
Moses (IBM 3) ≈ 10000000
Moses (IBM 5) ≈ 30000000
Процессор: Intel Xeon E5506, 8 ядер 64 бит, ОП 10Гб, ФС:xfs
Система Время, мкс
ПРС-СМП (1) 1012
ПРС-СМП (100) 1119024
Moses (IBM 3) ≈ 5000000
Moses (IBM 5) ≈ 6000000
Е. C. Гаврилов и И. К. Никитин #32 35 | Статистический машинный перевод
33. Введение Принципы Архитектура Оценка Перспективы Примеры BLEU Скорость Цена
Оценка полезности
Экономическая часть: Охрана труда:
Разработка — 916669 руб. Хороший переводчик меньше
Цена — 1833 руб. проводит время у компьютера.
Стоимость — 108786 руб Не подвергается вредному
год .
воздействию:
Меньше зп плохого
руб тихо работает ⇒;
переводчика (385920 год ). ⇒ качественный перевод ⇒;
⇒ качественные данные.
Е. C. Гаврилов и И. К. Никитин #33 35 | Статистический машинный перевод
34. Введение Принципы Архитектура Оценка Перспективы Результаты Развитие
Результаты
Разработан подход:
быстрого обучения модели перевода для научных текстов.
Реализована система машинного перевода:
многопроцессорная, распределенная;
только научно-техническая литература;
быстрое обучение;
быстрое (пошаговое) декодирование.
Е. C. Гаврилов и И. К. Никитин #34 35 | Статистический машинный перевод
35. Введение Принципы Архитектура Оценка Перспективы Результаты Развитие
Дальнейшее развитие
Математика: Архитектура и реализация:
полноценный фразовый перевод; использовать пословное сжатие
синтаксический перевод; при хранении в БД;
смешанная система перевода: переписать обработчика на Cи
с libevent;
пара русский-английский,
морфологический анализ. libevent для RESTful-сервиса
декодера:
опробовать более точные методы
1 млн. одновременных
поиска.
соединений
попробовать Redis → leveldb.
Е. C. Гаврилов и И. К. Никитин #35 35 | Статистический машинный перевод