开源日报 | 哈佛辍学生开发AI专用芯片对标英伟达;我做了一个AI搜索引擎;OpenAI突然对中国“断供”API影响有多大?
创始人
2024-06-27 00:21:52
0

欢迎阅读 OSCHINA 编辑部出品的开源日报——您探索和理解开源世界的日常指南。在这里,我们每天从宏观到微观,全面展现开源技术和文化的动态图景。

每日一更,风雨无阻。

OpenSource Daily # 2024.6.26省流概览

-首批基于仓颉编程语言的高性能图像处理算法库发布

-能让你致富的开源 “卖货主播” AI 大模型

-我做了一个 AI 搜索引擎

-用 PG 的开发者,年薪比 MySQL 多赚四成?

-哈佛辍学生筹资 1.2 亿美元,开发专用 AI 芯片对标英伟达

-脑科学生态亟需 “开源”,AI 和 HI 将趋于融合

-OpenAI 对中国 API “停服”,国内厂商 “抢单”

-全球首个可开源的“片上脑-机接口”智能交互系统MetaBOC

今日要闻

首批基于仓颉编程语言的高性能图像处理算法库发布

复旦大学工研院认知与智能技术实验室(CITLab)领衔的研发团队与华为仓颉编程语言团队建立了的长期合作关系,早在仓颉语言内测启动以来,就密切关注其技术动态和应用前景。

经过调研,团队发现仓颉语言生态还缺少图像处理算法库的支持。结合团队在图像处理方向积累的丰富研发经验,通过对两个广泛使用的开源代码库 zxing 的条码识别算法和 glide 的图像加载与缓存机制进行深入分析,完成了适用于仓颉语言的高性能图像处理算法的研究、开发和优化,并成功实现了 QRcode4cj(zxing for cj)和 droplet(glide for cj)两个高频图像处理软件库。

我国研制成功全球首个可开源 “片上脑-机接口” 智能交互系统 MetaBOC

天津大学脑机交互与人机共融海河实验室团队与南方科技大学等团队,协同开发了全球首个可开源的 “片上脑-机接口” 智能交互系统 MetaBOC,实现了培养 “大脑” 对机器人避障、跟踪、抓握等任务的无人控制,完成了多种类脑计算的启发工作。

“片上脑 - 机接口,是利用体外培养‘大脑’(如脑类器官)与电极芯片耦合形成的片上脑,通过编解码及刺激 - 反馈实现其与外界信息交互的技术。” 天津大学副校长、脑机交互与人机共融海河实验室执行主任明东教授认为,作为脑机接口领域的一个重要新兴分支,片上脑 - 机接口有望对混合智能、类脑计算等前沿科技领域的发展产生革命性的推动。

能让你致富的开源 “卖货主播” AI 大模型

“Streamer-Sales 销冠” 能够根据商品特点进行解说,通过生成的细腻、独到的解说词,激发用户的购买欲望。

技术栈方面,该模型据称用 xtuner 在 InternLM2 的基础上指令微调而来,部署集成了 LMDeploy 加速推理,支持 ASR 语音生成文字 ,支持 RAG 检索增强生成。能实现随时更新说明书指导主播生成文案,支持 Agent 通过网络查询快递信息 ,还加入带有感情的 TTS 文字转语音生成,最后还会生成主播数字人视频,让主播不止于文字介绍。

OpenAI 终止对中国提供服务影响有多大?

据一名业内人士向证券时报记者分析,OpenAI 官方此前就不向中国境内提供服务,至今也没有向中国用户直接开放注册和使用。

目前,使用 OpenAI 的能力主要有两个主流渠道,一是对接 OpenAI 官方提供的 API;二是对接微软 Azure 提供的 OpenAI 能力。但该业内人士也表示,此前在国内对接 OpenAI 官方提供的 API 使用 OpenAI 能力,就始终面临着随时被封禁的可能。“出于个人兴趣的开发者可以这么做,但企业这么做的话,风险就会比较高。”

“一直以来,国内就有不少创业公司是通过接入 OpenAI API 的方式,简单套壳做大模型或者 AI 应用。这次就会受到直接的影响。” 该业内人士进一步分析称,OpenAI 终止对中国提供 API 服务,一方面将对希望借助 OpenAI 大模型套壳创业的公司带来毁灭式打击,一批没有核心技术与竞争实力的公司如果未能及时找到替代方案,就将会被市场淘汰;另一方面,这也将倒逼中国的大模型公司加速自主研发,并促使更多的创业公司选择国产大模型,规避日后可能的风险。

今日观察社交观察

我做了一个 AI 搜索引擎

ThinkAny 是一款新时代的 AI 搜索引擎,利用 RAG(Retrieval-Augmented Generation)技术快速检索和聚合网络上的优质内容,并结合 AI 的智能回答功能,高效地回答用户的问题。

ThinkAny 的目标是:搜得更快,答得更准。ThinkAny 的定位是做全球化市场,从第一个版本开始就支持了多语言,包括(英语 / 中文 / 韩语 / 日语 / 法语 / 德语 / 俄语 / 阿拉伯语)。ThinkAny 的官网地址是:https://thinkany.ai

采用双栏式布局,界面非常简洁大气。

- 微信艾逗笔

AI 不会让外语专业失业,学翻译仍然大有用武之地

人工智能的多语种翻译尽管现在有了很大的能力提升,但要做到完全自如的理解不同语种,还需要做进一步的研究和探索。

而回到专业选择上,我们也能看到,AI 是会替代一部分只需要简单翻译的工作的,那么未来有可能在这方面找工作的外语专业就很有可能会碰到 AI 的竞争对手。但对有更高层面更精准要求的,外语专业并不会消失。

- 微博复旦张_军平

阿里巴巴主席蔡崇信谈为什么阿里巴巴全力投入 AI

“从根本上说,作为一家技术公司和技术先锋,我们相信机器智能的不断进步,机器将变得越来越智能。”

“对我们来说,能够在众多垂直应用中应用人工智能非常重要…… 当我们看我们的电商用例时,真是不可思议。”

“任何使用我们 AI 的人都需要使用云计算能力…… 当他们在我们的社区中使用开源 AI 时,他们也需要计算能力。这就是我们如何增长我们的云计算收入。”

- 微博宝玉xp

为 JSON 异常提供解决方案的 JSON 修复工具

为大型语言模型(LLM)处理过程中遇到的棘手 JSON 异常提供解决方案,是 Go 开发者的瑞士军刀,确保 JSON 数据的准确性和可靠性。

GitHub: github.com/RealAlexandreAI/json-repair

- 微博爱可可-爱生活

OpenAI 的 API 对我们也封杀了?2C 业务,2B 业务都不和我们玩

这个对我厂影响很小的,以前我们搞价值观回答对语料用过他们的 API,贵不说,也慢。。这个是最关键的。现在国内好多这种 API 服务都很好用,如果不自己部署大模型(自己部署需要烧大量 4090 显卡和电费。。)就直接用这种 API 会非常方便,你比如阿里云百练上,通义千问的价格几乎是 GPT4 的 50 分之一,关键还非常快,适合跑大量数据,一个垂类行业基本 1-2 天就跑完,而且里面啥模型都有,什么零一万物,百川,月之暗面,一般一个任务让这几个模型都跑一下,然后自己看一下,推荐给客户,客户决定用哪个模型就开干,很方便的。

- 微博梁斌penny

用 PG 的开发者,年薪比 MySQL 多赚四成?

从全球水平来看,PG 开发者的年薪中位数是62.5万,所有专业开发者年 薪的中位数是 59.8 万,而 MySQL 开发者的年薪中位数是 54.3 万。

用 PostgreSQL 的开发者比平均水平多赚 4.5%,用 MySQL 的开发者比平均水平少赚 9%。

从中国来看,PG 开发者的年薪中位数是 42.1 万,所有专业开发者年薪的中位数是 32.9 万,而 MySQL 开发者的年薪中位数是 30.8 万。用 PostgreSQL 的开发者比平均水平多赚高达 28%,用 MySQL 的开发者则比平均水平少 25%。

- 微信非法加冯

媒体观察

三位哈佛辍学生筹资 1.2 亿美元,开发专用 AI 芯片对标英伟达

一家由哈佛大学辍学生创立的初创公司 Etched 正在崭露头角,打算开发一款竞争性芯片,在人工智能领域挑战英伟达。

这家仅成立两年的公司,总部位于苹果公司所在地的加利福尼亚州库比蒂诺,刚获得了 1.2 亿美元的风险投资。该公司正在开发一款名为 Sohu 的芯片,将专用于训练和部署基于 “变换器(Transformers)” 架构的人工智能模型,这种架构是推动 ChatGPT 等技术进步的核心。

Etched 的联合创始人兼首席执行官加文・乌伯提(Gavin Uberti)表示,随着人工智能技术的进步,大量对计算资源的需求将通过定制的 ASIC(专用集成电路设计)芯片来满足。这些 ASIC 芯片设计用来执行特定的 AI 模型,与英伟达的通用图形处理单元(GPU)相比,其在成本上更具优势。

-新浪科技

锻造人工智能创新优势

企业要积极应用人工智能提升研发、中试、生产、服务、管理等环节的智能化水平,不断丰富智慧工厂、矿山、港口、交通、家居、教育、诊疗、零售、农场、社会治理等应用场景,转变组织方式和生产方式,抓住机遇,推出越来越 “聪明” 的产品,有效激发新质生产力。

-经济日报

OpenAI 突然对中国 “断供” API !多位从业者:影响不大,国产大模型更实惠

国产大模型的降价,降低了开发者的使用成本,降低了市场门槛,为中小企业在人工智能领域提供了更多的创业机会。可以看到的是,国产大模型大幅降价已成为行业的普遍趋势,未来,随着算力的提升和算法的不断进步,这一趋势还将继续。

-蓝鲸新闻

《互联网政务应用安全管理规定》解读

2024 年 5 月 15 日,中央网信办、中央编办、工业和信息化部、公安部等四部门联合公布《互联网政务应用安全管理规定》(以下称《规定》),自 2024 年 7 月 1 日起施行。出台《规定》旨在提高互联网政务应用安全防护水平,保障和促进互联网政务应用安全稳定运行。

-网信于都

周鸿祎:华为鸿蒙 OS 一定会成功 因为这三点原因

鸿蒙系统借鉴了过去十年 iOS 和安卓的经验教训。在底层文件系统、性能调试以及前端开发工具方面,鸿蒙已经做好了充分的准备。这使得鸿蒙操作系统的功能一经推出便十分完善,尤其是摒弃了安卓所使用的 Java 虚拟机。他认为,Java 虚拟机是安卓早期不得已而为之的选择,这导致即使安卓系统的 CPU 和计算能力很强,其前端应用的性能却并不高。

-驱动之家

AIGC 在游戏行业落地如何了?目前是 “简单外挂”,降本增效还很难

游戏行业分析师张书乐认为,虽然游戏作为多媒体内容,是 AIGC 能够全覆盖的试验场,但目前来看 AI 还只是一个简单外挂,由于还是初步使用,AIGC 的研发维护成本都还没能在较长时间线上摊薄,加上应用不够深入,降本增效短时间内不会被明显看出。

-第一财经

对话脑虎科技创始人彭雷:脑科学生态亟需 “开源”,AI 和 HI 将趋于融合

在科技迅猛发展的当下,脑机接口(BCI)技术以其独特的跨学科特性和革命性的潜能,正逐步从科幻走向现实。这项技术通过直接连接人脑与外部设备,不仅为医疗康复领域带来了治疗脑部疾病的新希望,也为人类与机器的交互开辟了全新的维度。

-一财网

OpenAI 对中国 API “停服” 国内厂商 “抢单”

近年来,中国出台了《网络安全法》、《数据安全法》等法规,对跨境数据传输和处理提出了要求,OpenAI 在中国市场面临着更为复杂的合规程序和高昂的成本。OpenAI 停止对中国提供 API 服务的消息一出,国内大模型公司第一时间行动起来,纷纷上线了 “迁移计划”

-21世纪经济报道

今日推荐

开源项目

readysettech/readyset

https://github.com/readysettech/readyset

ReadySet 是一个轻量级的 SQL 缓存引擎,可预先计算经常访问的查询结果,并在数据库中的基础数据更改时自动使这些结果随时间推移保持最新。

每日一博

从云原生视角看 AI 原生应用架构的实践

本文核心观点:

  • 基于大模型的 AI 原生应用将越来越多,容器和微服务为代表的云原生技术将加速渗透传统业务。
  • API 是 AI 原生应用的一等公民,并引入了更多流量,催生企业新的生命力和想象空间。
  • AI 原生应用对网关的需求超越了传统的路由和负载均衡功能,承载了更大的 AI 工程化使命。
  • AI Infra 的一致性架构至关重要,API 网关、消息队列、可观测是 AI Infra 的重要组成。

https://my.oschina.net/u/3874284/blog/11219696

开源之声

用户观点

想体验 Xcode 16 的 “AI 编程”?16GB 内存起步——“苹果不等式” 破防了

  • 观点 1:日常办公 8G 版本足够了,而 xcode 的 AI 功能相当于本地起一个小模型,16GB 的要求也并不过分
    • 观点 2:idea ultimate 也带了个本地的 1~2B 的小模型,8G 可以运行。用 llama.cpp 做 cpu 推理,2B 参数下速度也很快。
  • 观点 3:看这个大小可以估到大概是个 3B 左右的模型量化后加载推理,模型占用内存空间需要 8GB+,加上系统和应用都需要内存,所以至少 16GB 吧
    • 观点 4:7B,4bit 量化后才用 5G 多点。3B 这种 4GB 足够了。
  • 观点 5:苹果教育用户是一流的
  • 观点 6:相当于在其他平台上要占用 32g,但是在 mac 上只需要 16g
  • 观点 7:了解规律,理解规律,应用规律
  • 观点 8:2024 年了,还这么抠抠搜搜。这个地球上还在提供 8+256 的笔记本产品的可能独此一家了。情愿制造一批性能低下的电子垃圾,也不愿意提高内存。
  • 观点 9:破口大骂,当初就不该买丐版
  • 观点 10:没 32g 改好意思写代码吗
  • 观点 11:苹果应该就是产品失误,内存过小,没有预料到大模型进展这么快,一般来说,三年产品规划期,苹果技术,算法储备下来,追平了大模型,但是产品硬件做好准备,迎接大模型时代,至少三年后,出大内存。
JetBrains AI 助手将集成 Gemini 模型
  • 观点 1:不知道对比通义灵码是啥情况
  • 观点 2:还是喜欢 claude3 这些都太慢了 受不了
  • 观点 3:说一堆话还不是就是调调 api?

程序员梗图

END

References

https://www.oschina.net/news/299025

https://www.oschina.net/news/299015

https://weibo.com/1642585887/OkCXwhA1c

https://mp.weixin.qq.com/s/s20XLaU79ihyQUxvbIK4nQ

https://weibo.com/1226097217/OkrhMhwtS

https://weibo.com/1727858283/Okpcarv4k

https://weibo.com/1497035431/OkECCEbNt

https://weibo.com/1402400261/OkLIeFpFq

https://www.163.com/tech/article/J5JQ5AI100097U7T.html

https://www.yicai.com/news/102166578.html

https://mp.weixin.qq.com/s/25eXZi1QgGYIPpXeDzkQrg

https://mp.weixin.qq.com/s/73EVmMRVGBJmGCuoMaUu4Q

https://www.21jingji.com/article/20240625/herald/deac0161f75abeea343e1466f61580d9.html

https://3g.k.sohu.com/t/n800937535

https://ishare.ifeng.com/c/s/8aiGgOs5hSc

https://mp.weixin.qq.com/s?__biz=MzI5MDIwNDA1MQ==&mid=2247491089&idx=1&sn=5d087d85a6dfcd26a86ba5e9d654b9ea&scene=0

https://mp.weixin.qq.com/s?__biz=MzU2MDQwOTc2Mw==&mid=2247570837&idx=1&sn=e43632c66e699d4eb9174a36ced4e9ea&chksm=fc0be859cb7c614fccda2256c9ecd76c23028076666bc0ff0629716c04cea9525f5975068c75#rd

https://3g.k.sohu.com/t/n800869252

https://my.oschina.net/u/3874284/blog/11219696

https://github.com/readysettech/readyset

https://www.oschina.net/news/298902/jetbrains-ai-assistant-integrate-gemini

https://mp.weixin.qq.com/s/CeC5glPLj1mQq9NisMNArQ

最后,欢迎扫码下载「开源中国 APP」

阅读海量技术报告、程序员极客分享

相关内容

热门资讯

透视肯定!aapoker如何设... 透视肯定!aapoker如何设置胜率(透视)免费透视脚本(总是真的是有挂)所有人都在同一条线上,像星...
透视了解(WPK)切实是有挂(... 透视了解(WPK)切实是有挂(透视)wpk免费辅助(透牌教程)1、wpk免费辅助系统规律教程、wpk...
透视工具!wepoker透视破... 透视工具!wepoker透视破解版,wejoker内置辅助(竟然真的有挂)1、wepoker透视破解...
透视私人局!aapoker万能... 透视私人局!aapoker万能辅助器(透视)真的假的(真是存在有挂)1、aapoker万能辅助器ai...
透视私人局(WPK)好像真的是... 透视私人局(WPK)好像真的是有挂(透视)wpk插件(切实教程)1、游戏颠覆性的策略玩法,独创攻略技...
透视工具!wepoker辅助器... 透视工具!wepoker辅助器官方,wepoker亲友圈有用吗(好像有挂)1、wepoker亲友圈有...
透视存在!aapoker透视脚... 透视存在!aapoker透视脚本(透视)公共底牌(一贯真的有挂)1、aapoker透视脚本ai辅助优...
透视苹果版(WPK)其实有挂(... 透视苹果版(WPK)其实有挂(透视)wpk透视是真的吗(线上教程)亲,关键说明,wpk透视是真的吗赛...
透视总结!wepoker正确养... 透视总结!wepoker正确养号方法,wepoker免费脚本咨询(都是是真的有挂)1、wepoker...
透视ai代打!aapoker怎... 透视ai代打!aapoker怎么开辅助器(透视)辅助器是真的(确实是真的有挂);1、aapoker怎...