タグ: LLM

62{icon} {views} LLMをデプロイする際に、LLM部分の量子化が必要になることが多いです。MiniGPT4のようなVision & Language（マルチモーダル）なLLMに焦点をあて、Auto […]...

68{icon} {views} タイトル：Investigating Emergent Goal-Like Behaviour in Large Language Models Using Experimental E […]...

169{icon} {views} AWSのEC2環境でのLLaMA.cppのスループットをCPU,GPUインスタンスで比較してみました。結論としてはGPUのほうが良さそうということですが、インスタンスあたりのコストを考 […]...

357{icon} {views} LLaMA.cppのスループットをローカルで検証してみました。OpenLLaMA 7B/13Bをベースに、CPU/GPUのそれぞれの生成速度（token per second）と量子化 […]...

134{icon} {views} タイトル：Evaluating and Inducing Personality in Pre-trained Language Models 著者：Guangyuan Jiang, […]...

220{icon} {views} Mini-GPT4というマルチモーダルLLMをDockerを使ってバッチ処理をしてみました。係数を部分的にDockerイメージに組み込んだり、使用するLLMを切り替えられるようにちょっ […]...

713{icon} {views} 大量のデータをChatGPTで推論したいときに、並列化したらどの程度速くなったのかを実験してみました。振れ幅はかなり大きいですが、かなり並列化の効果はありました。 はじめに ChatG […]...

170{icon} {views} タイトル：TinyStories: How Small Can Language Models Be and Still Speak Coherent English? 著者：Rone […]...

252{icon} {views} 論文：Sentence Simplification via Large Language Models 著者：Yutao Feng, Jipeng Qiang, Yun Li, Yu […]...

3.4k{icon} {views} LangChainでChatGPTを使っていると、特に長時間や長い文章・指示を入れて会話するときにトークン数が問題になります。プロンプトに入れる会話履歴を選別するプロセスが必要になる […]...