Corei7

オープンエンドな進化から着想を得て、個々の大規模言語モデル（LLM）が、グループとして学習を進めながら、ノームエージェントとして機能するという概念を探求しています。これは、単一のモデルでは難しい複雑な問題を解決することを目的としています。具体的な方法として、遺伝的アルゴリズムと知識蒸留を組み合わせた学習プロセスを提案しています。知識蒸留によって学習を進め、同時に遺伝的アルゴリズムでハイパーパラメータを最適化することで、より効率的な学習を目指します。ドメインタスクとして、指示からPythonコードを生成するコード生成タスクを選択しました。実験では、学習に3つの学習モデルと1つの教師モデルを使用しました。その結果、HumanEvalのpass@1で精度が1.2%向上し、学習が進むにつれて学習率が最適化された兆候が見られました。しかし、大幅な精度向上を達成し、さまざまなハイパーパラメータを最適化するには、まだ課題が残っています。

TaketoFujikawa_物語のコンセプトに基づく情報アクセス手法の基礎検討_JSAI2024

Matsushita Laboratory

LoRaWAN 4チャンネル電流センサー・コンバーター CS01-LB 日本語マニュアル

CRI Japan, Inc.

JSAI_類似画像マッチングによる器への印象付与手法の妥当性検証_ver.3_高橋りさ

0207sukipio

CS集会#13_なるほどわからん通信技術　発表資料

Yuuitirou528 default

ReonHata_便利の副作用に気づかせるための発想支援手法の評価---行為の増減の提示による気づきへの影響---

Matsushita Laboratory

我々はこれまで，新たなモノを産出する過程において「便利にすること」によって副次的に生じる課題を「便利の副作用」と定義し，その低減を目的としてアイディアの発想支援手法を提案してきた．これまでの研究では，便利前後の行為の増減に着目することにより便利の副作用への気づきの誘発が示唆されたものの，行為の増減の提示による便利の副作用への気づきへの影響は十分に検討できていなかった．そのため，本稿では行為の提示により便利の副作用に気づき，それを防いだアイディアの発想の支援が可能かの検証を目的として実験を行い，その有効性について検証する．実験では，行為の増減の提示の有無によりアイディア発想にどのような影響を与えるか検証を行う．

Recently uploaded (8)

This is the company presentation material of RIZAP Technologies, Inc.

論文紹介：When Visual Prompt Tuning Meets Source-Free Domain Adaptive Semantic Seg...

遺伝的アルゴリズムと知識蒸留による大規模言語モデル（LLM）の学習とハイパーパラメータ最適化

TaketoFujikawa_物語のコンセプトに基づく情報アクセス手法の基礎検討_JSAI2024

LoRaWAN 4チャンネル電流センサー・コンバーター CS01-LB 日本語マニュアル

JSAI_類似画像マッチングによる器への印象付与手法の妥当性検証_ver.3_高橋りさ

CS集会#13_なるほどわからん通信技術　発表資料

ReonHata_便利の副作用に気づかせるための発想支援手法の評価---行為の増減の提示による気づきへの影響---

Corei7

Recommended

Recommended

More Related Content

Viewers also liked

Viewers also liked (20)

Recently uploaded

Recently uploaded (8)