EXPLORINEER
ja

CN — TechNode

テンセント、100万トークンのコンテキストに対応したHy4モデルの重みを公開

AI1分で読めます

Tencent(テンセント)は、主力AIモデル「Hy4」の重み(モデルの中身のデータ)を公開しました。開発者は、これをダウンロードして自分たちの環境で動かせるようになります。

何が起きたのか

テンセントは金曜日に、主力AIモデルHy4の重みを公開しました。Hy4は11月4日に最初に発表されたモデルです。今回の公開で、開発者は誰でもモデルをダウンロードして、自分のコンピューターやサーバーに入れて使えるようになりました。ライセンスはApache 2.0で、商用利用や改変も認められています。

主な数字と事実

  • 文脈の長さ(一度に扱える情報量)は約100万トークンです。
  • 言語部分の総パラメータ数は7,700億、1回の処理で使われるのは490億です。
  • テキスト、画像、動画を理解できます。
  • 前のプレビュー版より、指示への従い方、長い文章の理解、長時間の作業、研究などが良くなったとされています。
  • vLLMとSGLangでの導入手順、微調整の資料、安全性評価カードも提供されています。

もう少し詳しく

Hy4は「混合エキスパート(MoE)」という仕組みを使っています。これは、多くの専門家役のかたまりを用意し、質問ごとに必要な一部だけを働かせる方法です。そのため、全体は大きくても、1回に使う計算量を抑えられます。また、より小型のHy4 flashモデルも先に公開されていました。

なぜ大切なのか

大きなAIモデルの重みが公開されると、企業や研究者が自由に試し、改良できます。特に、長い文章や多くの種類の情報を扱えることは、仕事や開発の場で役立ちやすいです。ゲーム開発や事務作業など、幅広い分野での利用も期待されています。

今後注目したいこと

  • 開発者がどれくらいHy4を導入し、どんなアプリを作るか
  • 実際の性能が、テンセントの説明どおりかどうか
  • 安全性の評価や、公開後の問題の報告

用語解説

Tencent
中国の大手IT企業で、ゲーム、SNS、クラウドなど幅広い事業を行っています。
Hy4
テンセントが作った主力のAIモデルです。文章、画像、動画を理解できます。
vLLM
大きなAIモデルを速く動かすための、ソフトウェアの仕組みです。

出典: TechNodeで原文を読む ↗

この記事は原文をもとにAIがやさしい言葉で書き直した解説です。事実関係は原文をご確認ください。

広告

150語を取り込んで、1日10語ずつ

Dicter の単語帳は、覚えた単語だけを復習ノートに残します。

AIITmedia

Anthropicの数学者、「Claude」と共同で「リーマン予想」を証明したと主張 Leanコミュニティが「正しい」と認定

Anthropicに所属する数学者のレベント・アルポーゲ氏は、Claudeと共にリーマン予想の証明を見つけたとする声明を自身のWebサイトで発表し、証明は証明支援系Leanによる形式証明として公開された。LeanとMathlibのコミュニティは11月21日、この証明が正しいと認定する共同声明を出した。一方、数学者が読める形の論文はまだ公開されていない。

AITechCrunch

このマイクロドラマのスタートアップに自分のAI版の顔を売ることは、ハリウッドの未来なのか?

マイクロドラマのスタートアップShorticalは、昨年1月に設立され、2分ほどの短いロマンス作品を制作しており、現在はAI生成コンテンツも手がけています。最新シリーズ「Inevitable」にはイスラエル出身の俳優アキ・アヴニが出演し、完全にAIで制作されたこの作品のために、自身の顔を同社にライセンスしてデジタルアバターを作成しました。作品はロサンゼルスで初公開され、同社は顔のライセンス事業はまだ初期段階で、アヴニとの契約以外に署名された契約はないと述べています。

AITechCrunch

テキストメッセージの中で動くトップAIエージェント

新しいアプリをダウンロードする代わりに、普通の人に話しかけるようにテキストで依頼できるAIエージェントが増えています。これらは문脈を記憶し、普段使っているアプリやサービスと連携して、予定の調整、予約、オンライン買い物、リマインダー設定などの作業を代行できます。記事では、直近の資金調達で10億ドルを調達し100億ドルの評価額とされるInstinctに加え、個人向け、仕事向け、家族向けのAsk Proxy、Caddy、Comma、Fambotなどを紹介しています。

AIThe Register

スーパーファミコンで動くまで縮小されたChatGPT

テクノロジージャーナリストのBenj Edwardsが、エミュレーターやスーパーファミコン用カートリッジ向けROMで動作する超小型チャットボット「ChatGPT for SNES」を公開しました。OpenAIのGPT-OSS-120bを蒸留した220万パラメータのモデルで、シンプルな英語版Wikipediaから作られた事実集のオプションもあります。Edwardsによると、このモデルは約8,000語を知っており、自信を持って誤った回答をすることも多いとのことです。