MiniGPT-4をAutoGPTQ/BitsAndBytesで量子化時の生成文章の定量評価
546{icon} {views} LLMをデプロイする際に、LLM部分の量子化が必要になることが多いです。MiniGPT4のようなVLMに焦点をあて、AutoGPTQとBitsAndBytesという2つの量子化フレーム […]...
論文まとめ：SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis
1.4k{icon} {views} * タイトル：SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis * 著者：Dus […]...
Streamlitで動的に作ったコンテンツをダウンロードする方法
6.4k{icon} {views} Streamlitでメソッドなどで作った動的なデータについて、ボタンをクリックするとダウンロードするような処理を実装します。これは2023年10月現在のStreamlitでは不可能で […]...
論文まとめ：RTMPose: Real-Time Multi-Person Pose Estimation based on MMPose
3.7k{icon} {views} タイトル：RTMPose: Real-Time Multi-Person Pose Estimation based on MMPose 著者：Tao Jiang, Peng Lu, […]...
asyncioを使ったLangChain＋Streamlitでの非同期処理：複数のストリーミングチャットを同時に動かす
6.9k{icon} {views} asyncioを使い、StreamlitのUIを非同期化することを目指します。非同期化することで、複数のストリーミングチャットを同時に動かすことが可能になります。LangChainと […]...
Streamlit＋LangChainでストリーミング対応しつつPDFに複数の質問をさせる
2.7k{icon} {views} Streamlit＋LangChainでChatGPTのストリーミング表示を実装してみます。PDFの検索ベースで、かつテンプレートの質問を連続的に行うという実践的な例を紹介します。L […]...
論文まとめ：Generating Images with Multimodal Language Models
265{icon} {views} タイトル：Generating Images with Multimodal Language Models 著者：Jing Yu Koh, Daniel Fried, Ruslan […]...
MiniGPT4をAutoGPTQ/BitsAndBytesで量子化してAWS上でのスループットを検証する
936{icon} {views} LLMをデプロイする際に、LLM部分の量子化が必要になることが多いです。MiniGPT4のようなVision & Language（マルチモーダル）なLLMに焦点をあて、Aut […]...
論文まとめ：Visual Programming: Compositional visual reasoning without training
389{icon} {views} タイトル：Visual Programming: Compositional visual reasoning without training 著者：Tanmay Gupta, An […]...
論文まとめ：Investigating Emergent Goal-Like Behaviour in Large Language Models Using Experimental Economics
343{icon} {views} タイトル：Investigating Emergent Goal-Like Behaviour in Large Language Models Using Experimental […]...