SlideShare a Scribd company logo
1 of 21
Eggplant Functional
レッスン 3
OCRの利用
© Copyright 2019 Eggplant
An Overview
• OCR利用でのテキスト検索/テキスト読み取り
• 検索範囲を指定してOCR検索
• 画像検索とOCR検索での比較
© Copyright 2019 Eggplant
What Is OCR?
• 解釈アルゴリズムによる、画面上の文字を解読
• テキストは、指定された言語の辞書定義と比較
• 何百もの限度をサポート
Optical Character Recognition
© Copyright 2019 Eggplant
A Simple OCR Search
• OCR検索の構文は、画像検索での参照可能
• インラインで宣言されているテキストプロパティを参照
© Copyright 2019 Eggplant
A Simple OCR Read
• OCRを使用し、画面からテキスト読み取りが可能
• 次レッスンで詳細説明実施する。
© Copyright 2019 Eggplant
OCR Search Properties
© Copyright 2019 Eggplant
OCRのパフォーマンスと精度を向上方法
・ searchRectangleプロパティを追加
・ searchRectangleグローバルプロパティの使用
More OCR Search Properties
・CaseSensitiveプロパティを使用し、ケースマッチングを制御(適用/無視)
・コントラストプロパティを使用し、難しいテキスト処理可能
(低コントラスト、小さいフォントサイズなどの処理)
© Copyright 2019 Eggplant
More OCR Search Properties
・英語以外の言語の場合は、Languageプロパティの指定が必要
・各モバイルデバイスにおいて、画面サイズと解像度が異なるため、
使用するデバイスのDPIと一致するようにDPIを設定して、OCRの信頼性を高める必要がある。
© Copyright 2019 Eggplant
・デフォルトでは、Eggplant Functionalは画像検索中に画面の全領域を検索
・SearchRectangleグローバルプロパティを変更し、
検索する画面の領域を制限することが可能
2つの主要なアプローチ
•Set the SearchRectangle with ‘hard’ coordinates
•Set the SearchRectangle with images
Using Search Rectangles(検索範囲の指定)
© Copyright 2019 Eggplant
the SearchRectangle: Hard Coordinates
ターゲットUI要素が安定している場合に使用するアプローチ
ヒント:Viewerウィンドウから座標情報をコピーし、スクリプトに貼り付ける
© Copyright 2019 Eggplant
the SearchRectangle: Images
ターゲットのUI要素が安定していない場合に使用するアプローチ
ヒント:2つの異なるホットスポットで同じピクセル配列を使用する
© Copyright 2019 Eggplant
OCR and Hot Spots
• ホットスポットは、画像の範囲指定をする際の基準点です。(デフォルト位置は中央)
• ImageLocation()関数を使用してホットスポットの場所にアクセスする。
• locationOCR検索のホットスポットを使用して、 ホットスポットの場所に関連するアクションを実行できる。
© Copyright 2019 Eggplant
画像検索 vs OCR検索
© Copyright 2019 Eggplant
OCR検索のパフォーマンスと信頼性は、アプリケーションにより異なる。
OCRは通常、最初により多くのスクリプト作成作業を必要としますが、
テキスト間の違い(フォントサイズ、書体など)に敏感ではない。
一般的に、テキストのいくつかの異なる外観のみを処理する必要がある場合は、
画像検索を使用する。 多くの異なる外観の場合は、OCRを使用する。
テキストが非常に小さいか、読みにくい書体の場合、OCRは十分に信頼できない
可能性がある。 (画像検索推奨)
画像を適切にキャプチャできない場合は、OCR検索を利用する。
たとえば、数百の異なる顧客住所の表示を検証する必要がある場合など。
OCR検索を頻繁に使用する場合は、SearchRectangleを設定してパフォーマンスを
最適化し、精度を向上させる。
RemoteClipboard() Function
・” RemoteClipboard()” 関数は、SUTのクリップボードの内容を返す。
・キーボードショートカットのコピーを使用して、テキストをクリップボードに入力する。
・テキストの場所をダブルクリックすることは、コピーする前にテキストを選択するもう1つの良い方法である。
© Copyright 2019 Eggplant
Using the RemoteClipboard() Return
・変数に”RemoteClipboard()”の戻り値を入力し、ロジックを使用して変数の内容を検証
© Copyright 2019 Eggplant
ReadText() Function
・”ReadText() “は、OCRを利用して画面からテキストを読み取る。
・”Pass ReadText()”は、point もしくは rectangleでの範囲指定が可能。
© Copyright 2019 Eggplant
Using the ReadText() Return
© Copyright 2019 Eggplant
・”ReadText() “は、OCRを利用して画面からテキストを読み取る。
・”Pass ReadText()”は、point もしくは rectangleでの範囲指定が可能。
ReadText() Properties
・多くの場合、プロパティ値を”ReadText()”に渡して、返されるテキスト値を制限
・多くのOCRプロパティを使用して、”ReadText()”の精度を向上可能
© Copyright 2019 Eggplant
RemoteClipboard() vs. ReadText()
・ 可能であれば、”ReadText()”の代わりに”RemoteClipboard()”を使用する
- “RemoteClipboard()”は、より優れたパフォーマンスと信頼性を提供
・ テキストの選択やコピーをサポートしていないコンテキスト(AndroidやiOSなど)では、
“ReadText()”関数を使用する
© Copyright 2019 Eggplant
演習: OCR
サマリ:
• OCRを使用して画面外のテキストを読み取る。
• OCRを使用して画面上のテキストに対してマウスアクションを実行する。
• RemoteClipboardを使用する。
© Copyright 2019 Eggplant
演習: OCR
演習:
• Web browserを開く。
• 以下へアクセスする。 http://nopcommerce.eggplant.io
• Select the “Electronics”カテゴリ内の“Camera & photo” サブカテゴリを選択する。
- OCRのみを使用する。
• 製品「Apple iCam」の価格を確認する
- OCRのみを使用する。
• RemoteClipboardを使用して価格を読み取り、ログに記録する。
© Copyright 2019 Eggplant

More Related Content

More from Eggplant

Eggplant Functional - Lesson 8 (Japanese slides)
Eggplant Functional - Lesson 8 (Japanese slides)Eggplant Functional - Lesson 8 (Japanese slides)
Eggplant Functional - Lesson 8 (Japanese slides)Eggplant
 
Eggplant Functional - Lesson 9 (Japanese slides)
Eggplant Functional - Lesson 9 (Japanese slides)Eggplant Functional - Lesson 9 (Japanese slides)
Eggplant Functional - Lesson 9 (Japanese slides)Eggplant
 
Eggplant AI - Lesson 5 Slides (Japanese)
Eggplant AI - Lesson 5 Slides (Japanese)Eggplant AI - Lesson 5 Slides (Japanese)
Eggplant AI - Lesson 5 Slides (Japanese)Eggplant
 
Eggplant AI - Lesson 3 Slides (Japanese)
Eggplant AI - Lesson 3 Slides (Japanese)Eggplant AI - Lesson 3 Slides (Japanese)
Eggplant AI - Lesson 3 Slides (Japanese)Eggplant
 
Eggplant AI - Lesson 6 Slides (Japanese)
Eggplant AI - Lesson 6 Slides (Japanese)Eggplant AI - Lesson 6 Slides (Japanese)
Eggplant AI - Lesson 6 Slides (Japanese)Eggplant
 
Eggplant AI - Lesson 2 Slides (Japanese)
Eggplant AI - Lesson 2 Slides (Japanese)Eggplant AI - Lesson 2 Slides (Japanese)
Eggplant AI - Lesson 2 Slides (Japanese)Eggplant
 
Eggplant AI - Lesson 1 Slides (Japanese)
Eggplant AI - Lesson 1 Slides (Japanese)Eggplant AI - Lesson 1 Slides (Japanese)
Eggplant AI - Lesson 1 Slides (Japanese)Eggplant
 
Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​
Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​
Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​Eggplant
 
AI based Testing in Finance & Retail Breakfast Briefing
AI based Testing in Finance & Retail Breakfast BriefingAI based Testing in Finance & Retail Breakfast Briefing
AI based Testing in Finance & Retail Breakfast BriefingEggplant
 
6 Top Tips to a Testing Strategy That Works
6 Top Tips to a Testing Strategy That Works6 Top Tips to a Testing Strategy That Works
6 Top Tips to a Testing Strategy That WorksEggplant
 
Importance of testing for the business
Importance of testing for the businessImportance of testing for the business
Importance of testing for the businessEggplant
 
Test Automation Beyond Test Execution
Test Automation Beyond Test ExecutionTest Automation Beyond Test Execution
Test Automation Beyond Test ExecutionEggplant
 
Automation As An Ally
Automation As An AllyAutomation As An Ally
Automation As An AllyEggplant
 
Digital Nation: United We Stand
Digital Nation: United We StandDigital Nation: United We Stand
Digital Nation: United We StandEggplant
 
GUI Performance Regression Testing with Eggplant Functional
GUI Performance Regression Testing with Eggplant FunctionalGUI Performance Regression Testing with Eggplant Functional
GUI Performance Regression Testing with Eggplant FunctionalEggplant
 
The Future Is Bright
The Future Is BrightThe Future Is Bright
The Future Is BrightEggplant
 
Turn Performance Testing up to 11
Turn Performance Testing up to 11Turn Performance Testing up to 11
Turn Performance Testing up to 11Eggplant
 
6 Steps to Implementing a World Class Testing Ecosystem Final
6 Steps to Implementing a World Class Testing Ecosystem Final6 Steps to Implementing a World Class Testing Ecosystem Final
6 Steps to Implementing a World Class Testing Ecosystem FinalEggplant
 
The Future of Enterprise AI Depends on Continuous Quality with Mike Gualtieri
The Future of Enterprise AI Depends on Continuous Quality with Mike GualtieriThe Future of Enterprise AI Depends on Continuous Quality with Mike Gualtieri
The Future of Enterprise AI Depends on Continuous Quality with Mike GualtieriEggplant
 

More from Eggplant (20)

Eggplant Functional - Lesson 8 (Japanese slides)
Eggplant Functional - Lesson 8 (Japanese slides)Eggplant Functional - Lesson 8 (Japanese slides)
Eggplant Functional - Lesson 8 (Japanese slides)
 
Eggplant Functional - Lesson 9 (Japanese slides)
Eggplant Functional - Lesson 9 (Japanese slides)Eggplant Functional - Lesson 9 (Japanese slides)
Eggplant Functional - Lesson 9 (Japanese slides)
 
Eggplant AI - Lesson 5 Slides (Japanese)
Eggplant AI - Lesson 5 Slides (Japanese)Eggplant AI - Lesson 5 Slides (Japanese)
Eggplant AI - Lesson 5 Slides (Japanese)
 
Eggplant AI - Lesson 3 Slides (Japanese)
Eggplant AI - Lesson 3 Slides (Japanese)Eggplant AI - Lesson 3 Slides (Japanese)
Eggplant AI - Lesson 3 Slides (Japanese)
 
Eggplant AI - Lesson 6 Slides (Japanese)
Eggplant AI - Lesson 6 Slides (Japanese)Eggplant AI - Lesson 6 Slides (Japanese)
Eggplant AI - Lesson 6 Slides (Japanese)
 
Eggplant AI - Lesson 2 Slides (Japanese)
Eggplant AI - Lesson 2 Slides (Japanese)Eggplant AI - Lesson 2 Slides (Japanese)
Eggplant AI - Lesson 2 Slides (Japanese)
 
Eggplant AI - Lesson 1 Slides (Japanese)
Eggplant AI - Lesson 1 Slides (Japanese)Eggplant AI - Lesson 1 Slides (Japanese)
Eggplant AI - Lesson 1 Slides (Japanese)
 
Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​
Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​
Strategy vs. Tactical Testing: Actions for Today, Plans for Tomorrow​
 
AI based Testing in Finance & Retail Breakfast Briefing
AI based Testing in Finance & Retail Breakfast BriefingAI based Testing in Finance & Retail Breakfast Briefing
AI based Testing in Finance & Retail Breakfast Briefing
 
6 Top Tips to a Testing Strategy That Works
6 Top Tips to a Testing Strategy That Works6 Top Tips to a Testing Strategy That Works
6 Top Tips to a Testing Strategy That Works
 
Importance of testing for the business
Importance of testing for the businessImportance of testing for the business
Importance of testing for the business
 
Shift Up
Shift Up Shift Up
Shift Up
 
Test Automation Beyond Test Execution
Test Automation Beyond Test ExecutionTest Automation Beyond Test Execution
Test Automation Beyond Test Execution
 
Automation As An Ally
Automation As An AllyAutomation As An Ally
Automation As An Ally
 
Digital Nation: United We Stand
Digital Nation: United We StandDigital Nation: United We Stand
Digital Nation: United We Stand
 
GUI Performance Regression Testing with Eggplant Functional
GUI Performance Regression Testing with Eggplant FunctionalGUI Performance Regression Testing with Eggplant Functional
GUI Performance Regression Testing with Eggplant Functional
 
The Future Is Bright
The Future Is BrightThe Future Is Bright
The Future Is Bright
 
Turn Performance Testing up to 11
Turn Performance Testing up to 11Turn Performance Testing up to 11
Turn Performance Testing up to 11
 
6 Steps to Implementing a World Class Testing Ecosystem Final
6 Steps to Implementing a World Class Testing Ecosystem Final6 Steps to Implementing a World Class Testing Ecosystem Final
6 Steps to Implementing a World Class Testing Ecosystem Final
 
The Future of Enterprise AI Depends on Continuous Quality with Mike Gualtieri
The Future of Enterprise AI Depends on Continuous Quality with Mike GualtieriThe Future of Enterprise AI Depends on Continuous Quality with Mike Gualtieri
The Future of Enterprise AI Depends on Continuous Quality with Mike Gualtieri
 

Recently uploaded

デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)UEHARA, Tetsutaro
 
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案sugiuralab
 
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdfクラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdfFumieNakayama
 
自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer
自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer
自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineerYuki Kikuchi
 
CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?
CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?
CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?akihisamiyanaga1
 
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdfAWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdfFumieNakayama
 
業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成
業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成
業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成Hiroshi Tomioka
 
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)Hiroki Ichikura
 
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察  ~Text-to-MusicとText-To-ImageかつImage-to-Music...モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察  ~Text-to-MusicとText-To-ImageかつImage-to-Music...
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...博三 太田
 

Recently uploaded (9)

デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
 
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
 
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdfクラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
 
自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer
自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer
自分史上一番早い2024振り返り〜コロナ後、仕事は通常ペースに戻ったか〜 by IoT fullstack engineer
 
CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?
CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?
CTO, VPoE, テックリードなどリーダーポジションに登用したくなるのはどんな人材か?
 
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdfAWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
 
業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成
業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成
業務で生成AIを活用したい人のための生成AI入門講座(社外公開版) 2024年4月作成
 
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
 
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察  ~Text-to-MusicとText-To-ImageかつImage-to-Music...モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察  ~Text-to-MusicとText-To-ImageかつImage-to-Music...
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
 

Eggplant Functional - Lesson 3 (Japanese slides)

Editor's Notes

  1. NOTES FOR PRESENTER -- To avoid confusions right from the start, OCR should be used as a compliment to image searches, not the other way around. -- It is important to let people know that OCR can never reach even close to 100% recognition rate.
  2. NOTES FOR PRESENTER -- People should always use a search rectangle
  3. NOTES FOR PRESENTER -- On desktop, remoteclipboard() can only copy&paste eastern languages when using RDP. This is because UltraVNC and RealVNC (desktop version) does not support any other languages outside of English and European.
  4. NOTES FOR PRESENTER -- Regular expressions in eggPlant should be explained here