摩根大通发布了DocLLM，一款专为多模态文档理解设计的生成式语言模型，通过轻量级扩展LLM，避免昂贵的图像编码器，以提高文档分析效能。
2023年，我们看到了扩散模型推理速度方面的一些重大理论改进，例如Song等人的原始一致性模型论文，以及最近的LCM。（另外，对抗扩散蒸馏。）我们已经开始看到使用这些想法的项目，例如Dan Wood的Art Spew(每秒77512×512图像，在单个4090上)、Modal的Turbo.art(基于SDXL Turbo) 和fal.ai的30fps脸部交换。
大多数情况下，它的性能时好时坏。它不了解你的代码库，经常错误地猜测函数名称。有时它会创建带有细微错误的代码，迫使我花额外的时间分析它的输出。
该编码器具有多项功能。首先，它能够增强视觉感知能力，通过提供额外的视觉编码器，使MLLM能够更好地理解和分析图像内容。其次，VCoder能够处理特殊类型的图像，例如分割图和深度图。分割图能够帮助模型识别和理解图像中不同物体的边界和形状，而深度图则提供了物体距离相机远近的信息。最后，VCoder改善了对象感知任务的表现。通过提供额外的感知模态输入，如分割图或深度图，它显著提高了MLLM的对象感知能力，包括更准确地识别和计数图像中的对象。
腾讯推出的技术 Paint3D 能够根据文本或图像输入，在不具有内嵌光照信息的3D模型上生成高分辨率、无光照的多样化纹理贴图。