硬核观察 #947 以众包的方式在家用电脑上运行大语言模型
| 2023-03-21 18:28:36 评论: 0
以众包的方式在家用电脑上运行大语言模型
BigScience 项目最近公布了 BLOOM,这是一个支持 46 种自然语言和 13 种计算机语言的 1760 亿个参数的模型,参数数量和性能与 GPT-3 相当。但它需要超过 350GB 的加速器内存,甚至需要更多的优化调整。他们开发了名为 Petal 的框架,可以以众包的方式在家用电脑上运行大语言模型。参与者可以运行客户端和服务器端,可以调整模型,子模块在训练后可以发布在模型中心,以便其他人可以利用它们进行推理或额外的训练。
老王点评:果然这种众包式的 AI 模型出现了,这可以有效避免 AI 被垄断。
谷歌将某多多应用标记为恶意程序
谷歌周一出于安全理由从其官方应用商店下架了某多多应用,将其标记为恶意程序。谷歌说,“这个应用的非谷歌商店版本被发现含有恶意软件,已经通过谷歌商店保护进行防范”。安卓内的安全机制将阻止用户安装它。对于已经安装的该应用的用户,谷歌建议用户卸载。当然,由于众所周知的原因,该应用主要出现在谷歌应用商店之外的厂商商店中。在这之前,多个中国安全研究人员披露该应用包含有恶意功能,居然利用零日漏洞提权来阻止卸载并监视用户。
老王点评:这种眼睛里面不揉沙子的,还得是谷歌。
生成式人工智能的下一个领域是视频
几个月来,像 DALL-E 和稳定扩散这样的服务一直在创造美丽的、引人注目的、有时令人不安的图片。现在,一家名为 Runway AI 的初创公司正在使用 AI 生成视频,该系统可以通过用户的几句话提示生成简短的视频片段。目前已经可以在几分钟内生成几秒钟长度的视频。
老王点评:逼真的图像已经可以生成,那生成视频所需的就是更多的资源。将来全 AI 创作的视频、电影,指日可待。