项目地址:https://docs.google.com/document/d/1irisz6f1G4oYaKojqwuU9rSDBV1-VaCh0VkeuIX0sfs/edit?pli=1
依赖于预训练大语言模型:DeWave在实现脑电波到文本的转换过程中使用了预训练大语言模型，如BART。
图源:新抖
该编码器具有多项功能。首先，它能够增强视觉感知能力，通过提供额外的视觉编码器，使MLLM能够更好地理解和分析图像内容。其次，VCoder能够处理特殊类型的图像，例如分割图和深度图。分割图能够帮助模型识别和理解图像中不同物体的边界和形状，而深度图则提供了物体距离相机远近的信息。最后，VCoder改善了对象感知任务的表现。通过提供额外的感知模态输入，如分割图或深度图，它显著提高了MLLM的对象感知能力，包括更准确地识别和计数图像中的对象。
我知道我们已经聊过不少次《蛋仔派对》（下称蛋仔），但最近，我发现一件听上去很离谱的事:对不少年轻人来说，这款产品已经成了他们「赖以生存」的「精神乐园」。