1: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku
Meta社の大規模言語モデル「Llama 3」事例5選
— 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) April 21, 2024
・8Bと70Bのパラメーターを持つ
・旧世代モデルと比較して顕著に性能が向上
・様々なAIベンチマークで高い評価
・広範なプラットフォームに対応
Llama 3の使用事例を紹介>> pic.twitter.com/GWp5qL9uHQ
2/GroqとLlama 3の組み合わせで1秒当たり800トークンを生成https://t.co/SQnF6fWDPW
— 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) April 21, 2024
※: 本日のおすすめサイト記事一覧 0000/00/00(※) ID:metaversesoku
3: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku
4/Groqのモバイルアプリ上でLlama 3を使用、高速な回答を実現https://t.co/MJFXdwwH18
— 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) April 21, 2024
5/Llama 3をGroq LPUで動作、推論速度を実演https://t.co/gXZWqMlPFP
— 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) April 21, 2024
【朗報】Meta Llama 3 モデル、Azure AIに登場
— 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) April 19, 2024
・Metaとのコラボレーションで開発されたMeta Llama 3 モデルがAzure AIに導入
・新トークナイザー、トークン数増加、コンテキストウィンドウ拡大で言語処理能力強化
・Azure AIモデルカタログで利用可能、セキュリティとコンプライアンス配慮… https://t.co/NzUp0JuuwC pic.twitter.com/D5tbbMqRD1
詳細はこちら
— 木内翔大＠SHIFT AI代表「日本をAI先進国に」𝕏 (@shota7180) April 19, 2024
🔗- https://t.co/KqXYcckvWP
Yes, Llama 3 is INSANE https://t.co/ZZI0Y9NULi
— Sergey Edunov (@edunov) April 18, 2024
Llama3-8Bが15Tトークンという普通のバキバキトレーニングのさらに10倍くらいベキョベキョにトレーニングされた結果、WizardLM2-8x22Bと同じくらいいいらしいという話 →RT
— うみゆき@AI研究 (@umiyuki_ai) April 19, 2024
15Tトークンの学習で8Bが8x22Bに相当するってとこもう少し知りたいにゃー https://t.co/YrgUTb09Ub
— NITTA, katsuyoshi（新田 勝貴） (@read_me) April 19, 2024
4: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku
【スマホで高速の生成AIが使える】
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) April 21, 2024
Llama 3 40Bが使える世界最速のAI「Groq」がなんとiOSのアプリで利用可能に。
TestFlightにてアプリをダウンロードできる。
ストリーミングはないが、この最速でClaude 3に匹敵するAIをスマホで無料で使えるのは半端ない。
日本語の生成も可能です。
⇩ pic.twitter.com/ohJztmBiEq
○アプリはこちらからhttps://t.co/YsUTG5OAxc pic.twitter.com/corHE3nrCc
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) April 21, 2024
【世界最速のAI「Groq」が速すぎる】
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) April 20, 2024
世界最速のAI「Groq」にも高性能のLlama 3が搭載。
1-500の数字をカウントさせたところ、ChatGPTと比べてその速度は歴然。
これが無料は半端ない。。。 pic.twitter.com/FTYLlkDSVn
この動画は等倍速です。https://t.co/78pnXWwEq1
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) April 20, 2024
こちから無料で試せます！ pic.twitter.com/JoWLnXJS1l
🙏 thank you
— Groq Inc (@GroqInc) April 21, 2024
Llama 3まとめ
— webbigdata (@webbigdata) April 19, 2024
・8Bと70Bのベースと指示調整済とコンテンツの安全性を分類するLlama Guardの3種5モデル
・400B はまだトレーニング中だが、すでに GPT-4の領域に到達しつつあるとの事 Karpathy師曰く(84.8 MMLU vs. 86.5 4Turbo)… https://t.co/M7zvuvxRaB pic.twitter.com/HqFvZZ7Fn9
5: 名無しのメタバースさん 0000/00/00(※) 00:00:00.00 ID:metaversesoku
Unslothを使って無料版Colabで Llama 3 8Bを微調整させるサンプルコードが既に公開されていました
— webbigdata (@webbigdata) April 19, 2024
eosやunk_tokenなどの特殊トークン系が結構変わっていそうなので要注意https://t.co/WIF07ZUmsK
Llama3-70Bの4bit量子化GGUFをllama.cppサーバーで動かすと、プロンプトテンプレートデフォルトだと回答し続けちゃう。日本語で回答させようとするとダメなのは8Bと同じ。英語だとマシだけどそこまでよくない。 pic.twitter.com/RGAxOJPZMK
— プライオン (@plionplion) April 18, 2024
8Bベースに日本語知識を学習させたモデルをつくる人がでてくるの待ちかな
— プライオン (@plionplion) April 18, 2024
RTしていただいて、見る人多そうなのでllama.cppのserver.exe起動時の起動引数入力面倒な人向けのPythonコードのgithub貼っておきます。良かったら使ってください。https://t.co/rlxj0ah3vR
— プライオン (@plionplion) April 19, 2024
もうみんな手元で量子化LLama3をLlama. cppで動かしてんのか。手が早い！ →RT
— うみゆき@AI研究 (@umiyuki_ai) April 19, 2024
LPUによってリアルタイムのAI対話アプリなど、これまで実現が難しかった高速なLLMアプリケーションが可能になると期待。
— しょーてぃー (@shoty_k2) April 20, 2024
Meta Llama 3モデルが、MS Azure AIモデルカタログで利用可能になってるやん。モデルは8B-Instruct、70B-Instructっす。https://t.co/v6Uxq7fbqg
— しょーてぃー (@shoty_k2) April 19, 2024
【Llama 3 70B vs GPT4の速度対決】
— 田中義弘 | taziku CEO / AI × Creative (@taziku_co) April 21, 2024
Llama 3 (Groq) と GPT-4 双方にPythonのスネークゲームをコーディング依頼した場合の比較。
Groq + Llama 3が早すぎる。速度があればできることはさらに広がる。アプリはテストフライトとなりますので公式では無いため注意！#生成AIpic.twitter.com/dyL3CgvRJv
_________________________________________________________________________________
コメントする