Tomoya Yoshikawa

はじめに文章を固定長ベクトルに変換する方法はないかなあと調べていたら、SentenseBertというものを見つけました.それ以外にもベクトル化にはいろいろな方法があるようで調べた内容を少しまとめてみようと思います. ベクトル化の用途ベクトル化することによる応用の仕方はいろいろですが、文書ベクトルの応用としては以下のようなことが可能です.類似文書の検索文章間の類似度を測っておすすめの記事をレコメンド画像検索エンジン(文章ベクトルと画像ベクトルの類似度を測る) さまざま手法word2vecに始まり、自然言語の機械学習によるベクトル化のアルゴリズムは常に改良されてき...

自然言語処理 ベクトル化の手法

TLDR最新の深層学習のモデルは肥大化し続けている学習済みモデルを使った転移学習が当たり前になっているtransformersにもり様々なディープラーニングモデルを簡潔に記述できるようになったhuggingfaceはtransformersを使ってモデルやデータセットの共有、公開が簡単にできるプラットフォームである はじめに深層学習のライブラリは何を使ってますか？keras learn、tensorflow、pytorch、、、いろいろなライブラリがありますよね。昨今、特に自然言語処理の分野では、transformerが登場し、汎用的な特徴抽出が可能になったこと...

hugging faceの紹介

はじめに機械学習の分野はとても広いです.実務では特定の技術だけでなく様々なものをうまく組み合わせて問題解決することが求められるため、全ての技術を詳細に知る必要はないですが、全体を把握しておくことは重要です. 大分類大きく3つに分けられます.教師あり学習: データから何かしら予測教師なし学習: データに隠れた構造を抽出強化学習: 最適な行動を学習 全体像教師あり学習教師なし学習強化学習学習対象正解構造  特徴最適な行動実用例翻訳  災害予測  自動運転異常検知  レコメンドゲームAI  ロボットの自動制御タスク...

機械学習の全体像をまとめてみた

はじめにvaeをTensorflow2で実装してみました.データセット、ライブラリはそれぞれ以下を使用しています.ライブラリ: Tensorflow2データセット: FashionMnist本記事で紹介しているコードは以下で実行できます.https://colab.research.google.com/drive/1B-rtbHOatjavv8V8lfPYs9ymZ0o1sUL9?usp=sharing VAEとは端的に言うと、オートエンコーダ型の生成モデルです. 生成モデルとはデータが何かしら確率的な分布から生成されていると仮定し、データが生成される元の...

Tomoya Yoshikawa

自然言語処理ベクトル化の手法

hugging faceの紹介

機械学習の全体像をまとめてみた

[機械学習] VAEの実装

自然言語処理 ベクトル化の手法

hugging faceの紹介

機械学習の全体像をまとめてみた

[機械学習] VAEの実装

自然言語処理ベクトル化の手法