ChatGPTにgitのリポジトリ渡すと全ソースコード.txtをダウンロードさせてくれるやつ〜〜〜〜(AIに食わせるコード一覧が欲しい時用) ... users

! クレデンシャル含むソースコードをChatGPT等のクラウドLLMサービスにアップロードしないでください。 今回のプロンプトはオープンなリポジトリのみを対象としており、シェルスクリプトが実行される環境もChatGPT側のクラウド上のサンドボックス内のみを想定しています。 ローカ

ELYZA-japanese-Llama-2-7bをAWQ化して利用する ... users

ローカル環境(RTX3090)にて量子化と推論が両方問題なく動いたので共有です。やってることは、autoawqのREADMEをそのままELYZA-japanese-Llama-2-7bに適用しただけです。 量子化 これだけでOKです。15分程度で完了しました。 量子化中のリソース

Ryeでwhisper環境を構築する ... users

最近流行りのryeで音声書き起こしのwhisperのための環境を構築してみます。 https://github.com/mitsuhiko/rye ryeのセットアップ プロジェクトの作成 whisperコマンドの実行 run コマンド経由で実行できるようにできます。 ex. た

whisper.cppのGPU対応を試す ... users

前提 whisper.cppのGPU対応の兆しが前々からあったのですが、昨日ついにmainブランチにマージされたみたいなので早速試してみます。 https://github.com/ggerganov/whisper.cpp/commit/5fd1bdd7fc501d1a94dc

VSCodeでRemote SSHしている時に特定のポートを転送する ... users

Remote SSHを利用している場合、VSCodeが勝手にプロセスを監視していてサーバーを起動したのを検知すると勝手にホストへとポートの転送を行ってくれる。 今回はそれだけだとアプリケーションが動作しなかった場合に手動でポートを追加したい場合にどうするか?という話。 ⌘+Shi