×

Loading...
Ad by
  • 推荐 OXIO 加拿大高速网络,最低月费仅$40. 使用推荐码 RCR37MB 可获得一个月的免费服务

@Boston

Topic

  • 工作学习 / 学科技术 / 微软最近推出了 copilot+ pc 的概念。 +1
    Snapdragon X Elite,Apple,Intel,AMD 都纷纷推出各自的 NPU 方案。同时,小语言模型 (SLM) 也纷纷出境。未来一两年有可能又是百花齐放(三国争霸)的时代。最后是会出来各种垂直应用 AI 真正落地,还是只有超级个人助理(终端),还是到头来一地鸡毛各种聊天室应用而已?
    • 键盘多了一个copilot键,NPU对个人应用也还没看出有什么重大意义。
    • 现在搞一个能顺畅运行LLM的,少说得万把块钱,还是那种老模型。如果基于SURFACE, 那还是算了,这种垃圾三年就得扔。
      • 模型在azure 云上,只要Internet 就行。 Windows客户端能记住些账户密码历史,更方便。
      • 所以大家都开始推 device 端的小语言模型
        • 语言模型小不了,词汇量和复杂度在那里摆着。微软有小模型在背后访问open AI
    • "小语言模型 (SLM)" 的准确度不行吧? Sam Altman 说他们也搞不懂为啥transformer 的参数达到一定级别就产生了chatGpt 这样惊人的效果。 听起来大模型是前提必要条件?
      • 要想有COMMON SENSE,就不可能小了。 +1
      • 坊间说法是,对于特定行业需求,不妨使用 fine tuned 基于特定行业数据的小语言模型。大语言模型打造的是上知天文下知地理的万事通。
        • 那这种小模型需要data center 不?还用不用 nvidia 的芯片?
          • Inference 和 fine tuning 都可以在 local 完成,是否用 CPU 还是 GPU 取决于 model。
            • 现在增加了NPU概念。
            • Musk 曾经说过每个tesla car 都是移动的计算资源, 如果把这个算力用上, blabla
      • 大模型为啥能收敛,是个问题。
        • 小孩子到了一定年龄一下子就会推理了。
    • Screenshot everything on your pc? I m moving to Linux
    • Microsoft has lost trust with its users, and Windows Recall is the straw that broke the camel's back Microsoft has lost trust with its users, and Windows Recall is the straw that broke the camel's back
      The world is up-in-arms over Windows Recall, but why? It stems from Microsoft's seeming lack of care for Windows and its users.
    • 本坛对AI 的发展有了很多讨论,在软件上,在很多其他行业上都开始使用。 我是做硬件的,似乎现在ai发展对我的工作毫无影响,本坛硬件大佬是否有什么高见?
Ad by
  • 推荐 OXIO 加拿大高速网络,最低月费仅$40. 使用推荐码 RCR37MB 可获得一个月的免费服务