在2024外滩大会上，人工智能的产业落地与人文思考贯穿在演讲、论坛讨论、媒体采访等各个环节。记者整理了2024外滩大会上产学研领袖们的“人工智能十问”。这一年，人们对人工智能未来的想象愈发清晰，乐观情绪依然存在，也看到了更多需要思考的问题。
AI智能化进程遵循什么规律，未来又将如何发展？
“互联网之父”、著名未来学家、《连线》杂志创始主编凯文·凯利谈到了这个“极其重要但又很难回答的问题”。“没有确定的答案”成为凯文·凯利的答案。他提醒，AI、微软等都在押注大型语言模型。业界认为，如果继续扩大语言模型的规模，人工智能将变得更聪明，但实际上，这更多的是一种预感，尚未得到验证。
凯文·凯利表示，如今的人工智能只擅长基于已知事实回答问题，类似于学校里那些聪明的学生，他们读了很多书，似乎什么都知道，但他们不擅长提出新的问题，无法进入未知领域。未来，人工智能是否能够进行复杂的多步骤思维链，回答未知问题是业界需要努力寻找答案的重要问题。
AGI 是否存在泡沫？
应用突破是我国通用人工智能技术（AGI）发展的关键，但目前，人工智能真正的规模化应用和热门产品尚未出现，多数大模型公司处于亏损、烧钱状态，引发“AGI泡沫”担忧。
百川智能创始人兼CEO王小川在外滩大会上否认了“AGI泡沫”的说法，他认为目前大模型的发展从成果上看符合行业预期。他提出，要推动大模型迈向下一阶段发展，关键在于实现两大融合：一是知识搜索与大模型的结合，二是大模型增强的结合。
创始人兼CEO闫俊杰认为，AGI的发展仍需耐心。他表示，如果模型错误率能降到个位数，那么模型就是值得信赖的，AI也有可能从助手变成生产力。这种转变会带来真正普及的产品，给行业带来本质的改变。他期待通过技术优化拓展AI的边界。
未来人工智能是否能够超越工具属性，获得意识，甚至建立人工智能文明？
“人工智能是人类文明的下一个阶段，我们正在通过人工智能重塑人类文明，创造一种新的文化，在这种文化中，我们将不再是唯一的物种。”凯文·凯利说，人工智能不能像人类一样思考，它们有着不同的思维方式，有点像飞机。飞机不像鸟一样扇动翅膀，飞行方式也与动物完全不同。人类曾尝试利用仿生学制造出像鸟一样飞行的飞机，但失败了。同样，人工智能的设计初衷是模仿人类的思维，但机器的思维方式却完全不同，这意味着，这样不同的思维方式可以让AI产生不同寻常的想法和答案。
复旦大学计算机学院教授、上海市数据科学重点实验室主任肖扬华表示，人类与其担心人工智能发展出意识，更应该担心人工智能发展速度过快导致失控的风险。他认为，人工智能的大规模应用足以从根本上改变人类文明的基本面貌，人工智能技术的大规模滥用足以在一个文明发展出意识之前毁灭数千次。然而，人类目前对此思考甚少，更别说防范了。
人工智能的大规模应用可能给人类生活带来哪些具体挑战？
肖扬华表示，挑战首先在于我们的社会发展上层建筑如生产关系如何适应以人工智能为代表的先进生产力的快速发展。他认为，生成式人工智能技术的发展要以月为单位来记录，但人类的情感、价值观、伦理观念的调整速度却非常缓慢。如何调和这一矛盾是我们需要面对的挑战之一。
其次，技术包容性问题也值得关注。肖扬华认为，如何防止少数人利用先进技术形成不公平竞争优势是需要关注的问题。此外，还要特别注意防止技术成瘾，防止先进技术对人类产生反噬。
那么，人工智能给人类社会带来的好处究竟大于坏处，还是坏处大于好处呢？
凯文·凯利表示，他非常清楚人工智能会给人类社会带来新的问题，人工智能可能给人类社会带来最大的挑战，甚至比气候变化更为严重，比如未来的人可能会对人工智能产生强烈的情感依赖，这带来了潜在的风险。
“但人工智能的发展总体上利大于弊。”凯文·凯利认为，过去五百年来，总的趋势是，人类每年创造的价值总是比破坏的多1%。他预测，人工智能对社会的积极影响不会比消极影响大很多，但只要多一点点就能够推动社会进步。
如何加强人工智能治理？
中国工程院院士吴世忠认为，人工智能治理可以“以史为鉴”。他表示，人工智能治理与过去的核控制、疾病控制一样，都是人类发展历程中的“奥本海默时刻”。在这个过程中，作为人类命运共同体，我们可以借鉴很多经验，比如国际合作和多边协议，以及透明度和信任机制的构建。但与此同时，我们也必须根据人工智能的特点，更加科学地治理。
联合国人工智能高级别咨询机构专家、北京人工智能安全与治理实验室主任、中科院自动化研究所研究员曾毅强调，人工智能的安全性和能力并不相互制约。人工智能的治理并不意味着人工智能能力的弱化和发展速度的放缓。系统的鲁棒性（面对各种输入情况，能够正确运行而不出错或崩溃的能力）、适应性和安全性也是人工智能的能力。未来，人工智能系统的风险防范要由被动转为主动，由防御性转为建设性。此外，人工智能需要由伦理性转为道德性。
如何重新思考AI时代人与机器的关系？
香港科技大学董事会主席、美国国家工程院外籍院士沈向洋表示：“在计算机发展的几十年里，真正的赢家是做人机交互的人。不管什么技术，最终目的都是帮助人类更好地使用机器。”他认为，人工智能为人类与技术共存提供了新的语境，人机交互的新方式指向“AI与IA”的融合与进步。IA（智能增强）代表了以人为本的人工智能发展路径，注重用技术来增强人的能力，而不是取代人类，强调人与人工智能的协作关系。
肖扬华表示，随着脑机接口、人工智能技术的广泛应用，机器成为人类的外部大脑和四肢，人不再是传统生物学意义上的人。他表示，智能时代，人类将成为哲学家尼采所描述的“超人”，即超越自我的人。不过，这种自我超越将借助机器智能等外部工具来实现。
“随之而来的是人与人之间的社会关系也会随之发生改变，人工智能将成为人类的代理，从事各种生产和活动。人与机器的关系、机器与机器的关系，必然也会被纳入我们对社会关系的考察。”肖扬华说。
人类如何与人工智能竞争工作？
北京大学助理教授、北大-银河通用具身智能联合实验室主任、致远学者王贺表示，也许就像马斯克说的，地球上应该有100亿个人形机器人，每个人都应该由人形机器人来服务。这些人形机器人不是抢走了人类的工作，而是更好地为人类服务。
凯文·凯利表示，迄今为止的证据表明，真正因人工智能而失去工作的人很少，总比例可能不到80亿人中的700人。未来，更多人的工作角色将因人工智能而发生变化，转向监管人工智能，接管人工智能无法解决的复杂问题。“作为年轻人，你应该尝试去做一份无法用语言解释清楚的工作，比如一份需要你花整整半个小时向父亲解释你在做什么的工作”，凯文·凯利建议道，这意味着这份工作处于时代的前沿，还没有被完全定义。
哪些行业可能首先感受到人工智能的影响和变化？
凯文·凯利认为，金融和医疗领域将首先发生变化，因为这两个行业的信息密度很高。此外，广告和营销行业也将是首批受到影响的行业之一。
蚂蚁集团总裁兼CFO韩信义表示，金融行业已经高度数字化，医疗领域也积累了高价值数据，这两个领域AI可以在专业领域得到训练，具备较强的通用知识、理解能力和沟通能力，有机会带来普适性的专业服务。
如何应对人工智能在产业实施的不确定性？
机器学习领域领军人物、美国科学院院士迈克尔·乔丹表示，人工智能在产业落地需要形成一个协作的集体。他认为，人工智能不仅要体现在单个设备上的智能，更要通过协作体现在整体系统层面。比如，现代信息技术在医学、交通、金融科技和商业等领域的应用，需要一个集体的、去中心化的智能系统，而今天的人工智能却不具备。
迈克尔·乔丹表示，目前的AI系统很难表达自己到底学到了什么，也很难表达自己有多确定。他认为，人类在群体协作时，能够更好地应对不确定性。如何让AI系统拥有类似的集体协作能力是一个关键问题。
（本文来自第一财经）
本站候鸟号已成立2年，主要围绕财经资讯类，分享日常的保险、基金、期货、理财、股票等资讯，帮助您成为一个优秀的财经爱好者。本站温馨提示：股市有风险，入市需谨慎。
暂无评论