@omiita_atiimo Profile picture

Omiita

@omiita_atiimo

ML Engineer / M. Eng. / Book: "Vision Transformer入門"(https://t.co/V9mJEOQp7q) / Blog: https://t.co/nEStqseyZK

Similar User
Daisuke Okanohara / 岡野原 大輔 photo

@hillbig

小川雄太郎 photo

@ogawa_yutaro_22

cvpaper.challenge | AI/CV研究コミュニティ photo

@CVpaperChalleng

AI技術最新情報メディア | AI-SCHOLAR photo

@ai_scholar

DLHacks photo

@DL_Hacks

Koki Saitoh 斎藤康毅 photo

@SaitohKoki

goto photo

@goto_yuta_

ステート・オブ・AI ガイド photo

@stateofai_ja

今井翔太 / Shota Imai@えるエル photo

@ImAI_Eruel

Preferred Networks photo

@PreferredNetJP

須山敦志 Suyama Atsushi photo

@sammy_suyama

shinmura0 photo

@shinmura0

akira photo

@AkiraTOSEI

piqcy photo

@icoxfog417

mi141 photo

@mi141

Omiita Reposted

We're releasing a preview of OpenAI o1—a new series of AI models designed to spend more time thinking before they respond. These models can reason through complex tasks and solve harder problems than previous models in science, coding, and math. openai.com/index/introduc…


Omiita Reposted

Llama 3.1 is here! 8B, 70B, and 405B versions are available.

Tweet Image 1

Llama3(70B/8B)出ました。 llama.meta.com/llama3/ • 70BはClaude 3 Sonnetに勝ってる模様 • 8BもMistral/Gemmaを圧倒していて、期待を上回る性能 • さらに進行形で400Bも学習中とのこと。すでにClaude 3 Opusにも並びそうなベンチマーク結果を叩き出している

Tweet Image 1
Tweet Image 2

LLMをチューニングしたい人にとって、かなり有益な内容でした。非常に勉強になりました。 レポ: github.com/hiroshi-matsud… #NLP2024

本日13:00にスタートする #NLP2024 で「チュートリアル3:作って学ぶ日本語大規模言語モデル」の講師を私が担当します。日本語LLMの成り立ちについて、学習・推論の実行方法を含めて解説します。 anlp.jp/nlp2024/#tutor

Tweet Image 1


Omiita Reposted

Introducing Sora, our text-to-video model. Sora can create videos of up to 60 seconds featuring highly detailed scenes, complex camera motion, and multiple characters with vibrant emotions. openai.com/sora Prompt: “Beautiful, snowy…


非常に楽しかった #abcillm

Tweet Image 1

中国語のベンチマークで、GPT-4超えモデルが出てきたとのこと。 ユーザーによる報告のため鵜呑みにできないかもしれないが、 中国語ではGPT-4/ChatGPT超えモデルがいくつか出ているのはすごい。 (中国語を主言語としていないGPT-4/ChatGPTもすごいのだが。) cevalbenchmark.com/static/leaderb… (↑PC推奨)

Tweet Image 1

rinnaからも36億パラメータの日本語LLMが出てたのか! しかもinstruction-tuningしたバージョンも出してくれている。(ありがとうございます!) 日本語LLM界隈、最近きてるな huggingface.co/rinna/japanese…


日本語で事前学習されたLLMは激アツすぎる。しかも商用利用可能! ありがとうございます!

当社が開発した「最大68億パラメータの日本語LLM」を商用利用可能なライセンスで公開いたしました。本モデルをベースにチューニングを行うことで、対話型AI等の開発が可能です。 今後もモデル公開や産学連携を通し、国内における自然言語処理技術の発展に貢献してまいります。 cyberagent.co.jp/news/detail/id…



ついにLLaMA-7Bと同等の性能を持つ商用利用可能なLLM「MPT-7B」が登場! ブログ:mosaicml.com/blog/mpt-7b デモ:huggingface.co/spaces/mosaicm… 下図はZero-shot性能の結果です。StableLM / Pythia / Cerebrasなど最近の商用利用可能なLLMと比べてもMPT-7Bがかなり良いことが分かります。

Tweet Image 1

なんと第4刷!ありがとうございます! Self-AttentionやVision Transformerの仕組みをゼロから理解したい方はぜひ!

【好評につき第4刷】片岡裕雄さん 監修,山本晋太郎さん,徳永匡臣さん,箕浦大晃さん,邱玥さん,品川政太朗さん 執筆の『Vision Transformer入門』の増刷が決定!注目のViTのしくみと応用先がわかるとともに,コンピュータビジョン分野の最新状況を概観できます。gihyo.jp/book/2022/978-…



ぼく 「ジピったけど、これ少しハルってんなぁ」 ※ハルシネーション(hallucination、幻覚): 言語モデルがもっともらしい嘘をつくこと

This post is unavailable.

とんでもなく有用なまとめだ… ありがとうございます!

現状のLLMの流れ ①マイクロソフトのBing VS GoogleのBard→検索エンジンの戦い ②オープン(メタのLLaMAとかGPT-J、GPT-NEOX、Cerebras-GPT) VS クローズ(ChatGPT, GPT-4, LaMDA,…



GPT-4、爆誕。 openai.com/product/gpt-4 GPT-4は、テキストと画像を受け取れるマルチモーダル。自然言語処理タスクでは、これまでの最高性能モデルたちをGPT-4が Few-shotで大幅に超えてる! そして、論文の画像入れたらその要約返してくれるのエグいな

Tweet Image 1
Tweet Image 2
Tweet Image 3
Tweet Image 4

Omiita Reposted

Olive Gold Vision Transformer 入門みたいでかっこいいな

Tweet Image 1

ChatGPTのRLHFなどでも話題の強化学習ですが、強化学習はこの本がとんでもなく分かりやすいです。 amzn.asia/d/f71Jbhn 著者の斎藤さん(@SaitohKoki )の解説が秀逸で非常にクリアになりました🙏 ゼロから作るDeep Learning ❹ ―強化学習編


日本語特化版のチャットボットを@StabilityAI_JP が作るらしい これもStableDiffusionと同様にオープンソース&使いやすいモデルになったら大流行間違いなしだな

日本語に特化した、今までないチャットボット「Stable Chat(日本語版)」を開発します! 世界トップクラスの技術、大規模GPUクラスター、オープンコミュニティの力など… 私たちの強みを生かした透明性の高い最高の大規模言語モデル(LLM)を構築します。 1/2



日本として大規模言語モデルとどう関わっていくべきか。非常に大切な話ですね。

松尾豊先生が政府のAI討論会で発表した資料を読んでいて動悸が止まらない。 賽は投げられた。 #AI新時代の日本の戦略 #CDLE

Tweet Image 1
Tweet Image 2


WandBの創設者と話せたしDL4J作った人とも話せたしで大満足の会でした (Stability.aiの方と話せなかったのが悔いが残る…) 運営の皆さまありがとうございました! #wandb_tokyo


OpenAIのシェインさん(@shanegJP)と落合先生(@ochyai)の動画見てたら、突如自分が作成した図(スクショ右)が出てきて嬉しくなった深夜 youtube.com/watch?v=QmgmEy…

Tweet Image 1

This account does not follow anyone
Loading...

Something went wrong.


Something went wrong.