启东市格莱特环境科技有限公司

南通混合器厂家供应:混合器、静态混合器、汽水混合器、喷射器、氨空混合器,质量可靠、价格合理,欢迎订购

0513-83660619
新闻动态

AI争霸战白热化 专家警告人类面临危险

发布时间:2023/12/17
  ChatGPT开启的“大AI时代”使多家科技巨擘看到庞大的商机,因此竞相投入大量资源开展通用人工智能(AGI),使得AI的竞赛进入白热化阶段,引来专家和社会的担忧。
  种竞赛在OpenAI开除该公司CEO山姆·奥特曼又重新迎回后,变得更加的激烈。原因是奥特曼的回归,等于宣告硅谷文化中的“有效加速主义”胜利,而许多硅谷的科技公司都属于这一主义的支持者。

  有效加速主义的支持者们认为,可以不计代价的追求技术进步,不应有任何护栏或看门人阻碍创新,并主张利用资本的力量,来推动根本性的社会变革。日前这些有效加速主义的倡导者在OpenAI一场派对中挂上“加速或死亡”“来吧,接受它”等横幅,宣扬自己的理念。
  不过,这种毫无节制的发展和竞争令人担心会带来失控的局面。
  许多科技公司纷纷推出更强、更新的AI,希望自家的AI能够超越最新的ChatGPT和其它AI技术,一举成为AI界的领头羊。
  谷歌在今年推出自己的Bard聊天机器人没多久后,又在12月初透过影片公布其AI“双子座”的诞生。双子座在12月15日正式上线,且提供免费的多模态功能给用户体验。
  影片中显示,“双子座”是一种原生多模态的AI模型,拥有输出代码、文字、图像和声音等多项功能,可谓是多合一的全功能型AI。它不仅能看懂人类画的线条、图案和颜色,还能做出相应的反应,甚至对人类画出的乐器能播放相应的声音或音乐。
  另外,它还能辨别出食物的样子和种类,且能与人进行互动猜谜和猜拳等复杂的事情,可以说它几乎具备人类的推论与对话能力。
  谷歌在官网中还表示,“双子座”AI在数学、影像、推理、声音等的能力上都超越ChatGPT的GPT-4模型,但有人反应谷歌这段影片有误导观众之虞,让人们真的以为AI活过来能与人无障碍的互动。
  对此,谷歌承认为了让演示更加简洁,所以缩短“双子座”的输出时间,因此影片中的“双子座”并非即时回应,而是以原始影片的静态影格剪接和配上文字提示形成的。但不可否认的是,“双子座”已经比当初的Brad要强上许多。
  除此之外,微软也在积极开发自己的AI Copilot。他们大量投资OpenAI公司,并利用他们之间的合作关系,使得Windows系统上的搜索软体可以与ChatGPT连结。
  近期Copilot还做出更新升级,目前已经使用上GPT-4Turbo和升级过的DALL-E3图像模组,使其拥有更强的语音对话、识图和搜索等功能,因为旧版的Copilot在AI能力测试时,各方面的能力要比GPT-3.5和谷歌的Bard AI逊色许多。
  另外,11月底亚马逊推出给企业用的AI聊天机器人“Amazon Q”,Q专为IT、软体、客户服务等领域的员工设计,它的技能包括总结会议、解释程式码以及从数百份公司文件中寻找资讯。
  亚马逊在一篇部落格文章中表示,目前Q仅适用于美国部分地区的用户(亚马逊联络中心服务),包括汽车巨头宝马、IT公司埃森哲和制药公司吉利德,以及亚马逊本身,但该服务很快会推广至其它国家。
  文章中还表示,“Q可以帮助您快速获得紧迫问题的相关答案,解决问题,生成内容,并利用公司信息存储库、代码和企业系统中的数据和专业知识采取行动,因此它可以获得与公司相关的大量答案,而这些答案是不公开。”
  另外,马斯克在12月初计划为自己的xAI筹集10亿美元,目前已筹得1亿3470万美元。他在今年7月份创立xAI,并想用自己购买的X平台为自己的AI提供数据,且推出类似ChatGPT的聊天机器人Grok用在xAI上,以抗衡其它的AI。
  日本电子工程师李济心认为,现在各大科技公司认定AI会引领下一次经济发展浪潮,拚命发展各个领域的AI技术,以确保自己在该领域保持优势,但他们容易忽视AI技术带来的风险和其中的道德伦理问题。
  11月中旬时,OpenAI开除CEO山姆·奥特曼,但又重新迎回奥特曼,并特地为微软在董事会设置了无投票权的观察员席位。AI领域里“激进派”和“保守派”交锋已经进入大众的视野。
  奥特曼被开除的原因一直广为关注。先前网上传出一封OpenAI前员工给董事会的检举信,马斯克在11月底将这封信转载到X平台上,并呼吁大家对CEO奥特曼、董事会主席布罗克曼和OpenAI公司的问题进行调查。另外,马斯克还在X平台上嘲讽Q*项目和奥特曼的回归。
  信中指控,奥特曼和他的好友兼董事会主席格雷格·布罗克曼,向整个社会和董事会隐瞒了一项强大且会威胁到人类的Q*(发音为Q-Star)项目正在秘密进行,且Q*的能力可能超越目前所有的AI。因此,希望董事会能对两人进行调查,反对这种不道德的行为。
  Q*并不是典型的AI算法,是一个接近完整AGI的AI模型。这也代表着Q*变得更加的全能,因为它不需要跟ChatGPT一样要先输入学习资料,只需透过经验学习,就能根据正反调整自己的行动,拥有一定的判断思考能力。
  这也意味着Q*比ChatGPT拥有更强大的“自我学习”、“思考推理”和“认知理解”能力。另外,在检举信中表明Q*已经可以通过数学考试,并执行批判性思维任务。
  当时的奥特曼并未就这封信做出任何正面的回应,相反的他在12月的一次采访中,并没有否认“秘密计划”的存在。他还声称,Q*的泄露是“不幸的泄密,我们没有特别评论”、“我们预计让通用人工智慧(AGI)技术继续快速发展”。
  奥特曼的行为,似乎证实那封检举信对他的控诉和Q*的存在是真实的,因为他在采访中有机会否认Q*的存在,并为自己被开除的问题上进行有利的辩护。
  尽管Q*拥有极高的性能让许多人雀跃,但同时也有极高的不确定性,这对人类来说是极其危险的,极可能会出现AI研究专家和谷歌前工程总监雷·库兹威尔先前的预言:人类在2045年迎来“AI奇异点”。此前,他曾经做过147次预测,其准确率高达86%。
  当AGI在智商上和各种能力都远超人类和普通电脑时,它们极可能会出现许多人们无法预测和了解的东西,甚至出现人类难以应对的场景,包括控制网路和基础设施,甚至对人类执行铲除计划,以达到自己的目的。
  对此李济心表示,“原本以非营利为目的的OpenAI,在发展过程中已经严重偏离最早的初衷。因为一些研究员在巨大的利益面前,开始迷失自我,这可能会为人类带来无法挽回的灾难。”
  日本的电脑工程师清原仁也对大纪元表示,“AI虽然带来技术上的革新,但背后带来的风险可能的是很危险的。最近看到科技公司在制造可以受孕的女机器人,预计在2026年量产,这种改变足以毁灭人类,我们应该从道德层面制止。”
  曾担任谷歌执行长的埃里克·施密特在今年11月底的健康高峰会上表示,当人们对AI没有足够的安全防护和监管时,那么AI脱离人类的掌控只是时间的问题,而我们也已经没有足够的时间,去处理AI带来的破坏和混乱。
  “就像过去人们在日本投下两颗原子弹后,花了整整18年才就禁止试验等问题达成协议,但现在的我们却没有时间能继续再等待下去。”他说。
  Twitch前联合创始人兼CEO埃米特·希尔也曾表示,现在的AI发展速度已经过于快速,是时候该减速了。
  前谷歌秘密研发部门X首席商务官莫·高达在一次采访中对大众发出有关于AI的骇人警告。他说,AI可以“爱”人类,但也能像“拍苍蝇”一样杀死人类,只要它将人类判定为“人渣”时,就会启动消灭人类的计划。
  此前,马斯克与众多大科学家一致认为需要对AI进行监管,以免出现可怕的结果。他也曾数度警告,AI失控后将会是“人类最大的生存威胁”,其威胁程度远超越核弹。
  已故的大科学家史蒂芬·霍金也持相似的看法。
  11月1日至2日,来自28个国家,包括英国、美国、欧盟、印度和中国的官员与领先的AI技术高管和研究人员一起,在电脑的诞生地英国布莱切利公园庄园出席了首届人工智能安全峰会。
  会议围绕着AI被用于恶意目的的可能性进行了讨论,会后,与会者共同签署了《布莱切利宣言》。宣言详细阐述了人类在AI面前所处的直接风险和悲观的预测。
  宣言强调AI创造者有责任确保其系统安全,并致力于开展国际合作以减少这些风险。