Dragino LoRaWAN エンドデバイス

•

1 like•11,591 views

Dragino LoRaWANエンドデバイス

オープンエンドな進化から着想を得て、個々の大規模言語モデル（LLM）が、グループとして学習を進めながら、ノームエージェントとして機能するという概念を探求しています。これは、単一のモデルでは難しい複雑な問題を解決することを目的としています。具体的な方法として、遺伝的アルゴリズムと知識蒸留を組み合わせた学習プロセスを提案しています。知識蒸留によって学習を進め、同時に遺伝的アルゴリズムでハイパーパラメータを最適化することで、より効率的な学習を目指します。ドメインタスクとして、指示からPythonコードを生成するコード生成タスクを選択しました。実験では、学習に3つの学習モデルと1つの教師モデルを使用しました。その結果、HumanEvalのpass@1で精度が1.2%向上し、学習が進むにつれて学習率が最適化された兆候が見られました。しかし、大幅な精度向上を達成し、さまざまなハイパーパラメータを最適化するには、まだ課題が残っています。

Recently uploaded

TaketoFujikawa_物語のコンセプトに基づく情報アクセス手法の基礎検討_JSAI2024

Matsushita Laboratory

遺伝的アルゴリズムと知識蒸留による大規模言語モデル（LLM）の学習とハイパーパラメータ最適化

t m

CS集会#13_なるほどわからん通信技術　発表資料

Yuuitirou528 default

論文紹介：When Visual Prompt Tuning Meets Source-Free Domain Adaptive Semantic Seg...

Toru Tamaki

ReonHata_便利の副作用に気づかせるための発想支援手法の評価---行為の増減の提示による気づきへの影響---

Matsushita Laboratory

我々はこれまで，新たなモノを産出する過程において「便利にすること」によって副次的に生じる課題を「便利の副作用」と定義し，その低減を目的としてアイディアの発想支援手法を提案してきた．これまでの研究では，便利前後の行為の増減に着目することにより便利の副作用への気づきの誘発が示唆されたものの，行為の増減の提示による便利の副作用への気づきへの影響は十分に検討できていなかった．そのため，本稿では行為の提示により便利の副作用に気づき，それを防いだアイディアの発想の支援が可能かの検証を目的として実験を行い，その有効性について検証する．実験では，行為の増減の提示の有無によりアイディア発想にどのような影響を与えるか検証を行う．

JSAI_類似画像マッチングによる器への印象付与手法の妥当性検証_ver.3_高橋りさ

0207sukipio

This is the company presentation material of RIZAP Technologies, Inc.

chiefujita1

Recently uploaded (7)