第514章 用steamdeck安装ai大模型的体验，gpt4all(3/3)

模型对外部世界真实认知产生质的飞跃（可以在各项任务上都有好的表现）？目前的经验是 300 亿单词的输入量 (zhang et al 2020)。但是大语料需要足够高的模型复杂度来承载。模型相对输入数据过于复杂固然不好（过拟合，over-fittg）。然而一个太小的模型在面对大数据的时候，也会力不从心（欠拟合）。大和小是需要相对判断的。目前的 gpt4all 在一众巨无霸面前，无论如何也是个小模型。chatgpt 这样的大语言模型让人们惊诧的地方，在于它能够有自己的「顿悟时刻」。这种「顿悟时刻」如何出现的？现在学术界还在研究中。但是有很多证据指向一些提示语（例如「一步步来」step by step）能够激活大语言模型的 cha-of-thought (思维链），从而有助于解锁「顿悟」般的逻辑推理能力。不过研究者同样证明了，这种「魔法」提示语有效的前提，是模型的参数量需要达到 1000 亿的规模 (wei et al 2023)。chatgpt 的参数超过了这个阈值，而 gpt4all 还远得很。当然不是。如果你把 gpt4all 看成某种终极形态，那么等待你的可能是从激动快速跌落到失望。但是比较一下初代 iphone 和 iphone 4s，你就能感受到短短几年间，技术进步带来的产品性能天差地别。更何况，现在的 ai 进展速度，可不像 iphone 一样「一年一更」。即便从短期来看，gpt4all 也有其用途。在我们的测试中，它在写作上还是有能力的。gpt4all 不需要付费调用 token ，也不需要把数据传递到远端进行处理。对有些使用目的（例如保护公司机密数据）而言，gpt4all 这样的模型出现，关乎的可不只是「好用」与「不好用」，而是「能用」和「不能用」的分水岭。对于很多机构的事务性工作而言，复杂的逻辑推理能力其实只是锦上添花。若是能完美解决日常单项任务，收益也已经十分显着。请你在试用之后，依然对gpt4all保持一份耐心。也许不久以后，我们每个人的电脑和手机上，都能运行一个随时待命的优秀助理，帮助我们做许多从前想做，但是一想到要做就头疼的任务