同一个字,前后接的不同,词汇的意思不同,通过bert 之后输出的向量也不一样。 bert 输出后的向量包含上下文的信息。 比如 吃苹果 和苹果电脑中的 果,向量不一样。 DNA 分类 把DNA 的 A T C G 用 we you he she 表示,然后当作文章分类的任务 蛋白质 把每种氨基酸用一个文字表示,当作文章分类处理。 音符,每个音符随便给一个词汇,当作文章分类处理。 Multi-lingual Bert 多语言bert 多语言翻译