noriho137’s diary

機械学習, 時々Web

2023-01-01から1年間の記事一覧

Transformers, LangChain & Chromaによるローカルのテキストデータを参照したテキスト生成

前回はHugging FaceのTransgormersとLangChainを用いたテキスト生成を実装しました。 今回はさらにChromaを用いて、ローカルのDB上のデータを参照して質問応答を行うテキスト生成を実装してみます。 ChromaはいわゆるベクトルDBの一種です。 ベクトルDBは埋…

Transformers PipelineとLangChainによるテキスト生成

前回は Hugging FaceのTransgormers Pipelineを用いたテキスト生成を実装しました。 今回はTransgormers Pipelineに加えてLangChainも使用したテキスト生成を実装してみます。 LangChain を利用すると大規模言語モデルを用いたアプリケーション開発が容易に…

Transformaers Pipeline によるテキスト生成

Hugging Face の Transformers には推論を簡単に行うための Pipeline という仕組みがあります。 PyTorch や TensorFlow のような面倒なコードを書かずに、わずかなコーディング量で推論することができるので、ちょっとしたことを試すのにはとでも便利です。 …

PyCharmでプロジェクトの改行コードを一括変換

PyCharmでプロジェクトの改行コードを一括変換する方法をいつも忘れてしまうのでメモ。 プロジェクトをクリックして選択した上で、メニューから、File → File Properties → Line Separators と選択すればOK。 PyCharmの画面 ※注:上記はWindows版です。