都会とはいいがたい街で勉強会が続いている理由〜北海道北見市 Ohotech の事例〜

•

0 likes•449 views

NISHIHARA Shota

2013/10/19(土) CLR/H #86 で発表した Ohotech の歴史についての発表

Technology

都会とはいいがたい街で勉強会が続いている理由〜北海道北見市 Ohotech の事例〜

オープンエンドな進化から着想を得て、個々の大規模言語モデル（LLM）が、グループとして学習を進めながら、ノームエージェントとして機能するという概念を探求しています。これは、単一のモデルでは難しい複雑な問題を解決することを目的としています。具体的な方法として、遺伝的アルゴリズムと知識蒸留を組み合わせた学習プロセスを提案しています。知識蒸留によって学習を進め、同時に遺伝的アルゴリズムでハイパーパラメータを最適化することで、より効率的な学習を目指します。ドメインタスクとして、指示からPythonコードを生成するコード生成タスクを選択しました。実験では、学習に3つの学習モデルと1つの教師モデルを使用しました。その結果、HumanEvalのpass@1で精度が1.2%向上し、学習が進むにつれて学習率が最適化された兆候が見られました。しかし、大幅な精度向上を達成し、さまざまなハイパーパラメータを最適化するには、まだ課題が残っています。

Recently uploaded

LoRaWAN 4チャンネル電流センサー・コンバーター CS01-LB 日本語マニュアル

CRI Japan, Inc.

遺伝的アルゴリズムと知識蒸留による大規模言語モデル（LLM）の学習とハイパーパラメータ最適化

t m

ReonHata_便利の副作用に気づかせるための発想支援手法の評価---行為の増減の提示による気づきへの影響---

Matsushita Laboratory

我々はこれまで，新たなモノを産出する過程において「便利にすること」によって副次的に生じる課題を「便利の副作用」と定義し，その低減を目的としてアイディアの発想支援手法を提案してきた．これまでの研究では，便利前後の行為の増減に着目することにより便利の副作用への気づきの誘発が示唆されたものの，行為の増減の提示による便利の副作用への気づきへの影響は十分に検討できていなかった．そのため，本稿では行為の提示により便利の副作用に気づき，それを防いだアイディアの発想の支援が可能かの検証を目的として実験を行い，その有効性について検証する．実験では，行為の増減の提示の有無によりアイディア発想にどのような影響を与えるか検証を行う．

キンドリルネットワークアセスメントサービスご紹介今のネットワーク環境は大丈夫？調査〜対策までご支援します

Takayuki Nakayama

Generating Automatic Feedback on UI Mockups with Large Language Models

harmonylab

This is the company presentation material of RIZAP Technologies, Inc.

chiefujita1

JSAI_類似画像マッチングによる器への印象付与手法の妥当性検証_ver.3_高橋りさ

0207sukipio

論文紹介：When Visual Prompt Tuning Meets Source-Free Domain Adaptive Semantic Seg...

Toru Tamaki

論文紹介：Deep Learning-Based Human Pose Estimation: A Survey

Toru Tamaki