欧美本精品男人aⅴ天堂_亚洲精品久久久蜜桃_国产精品资源网_亚洲精品在线观看网站

鄭萃穎

近日，電商智能體、醫(yī)療健康智能體、辦公智能體接連發(fā)布，AI應(yīng)用迎來爆發(fā)式增長，正成為推動各行業(yè)發(fā)展的新引擎。從電商平臺到醫(yī)療健康，從制造業(yè)到能源生產(chǎn)，AI技術(shù)正加速賦能千行百業(yè)。然而，隨著技術(shù)的廣泛應(yīng)用，AI帶來的安全風險也引發(fā)廣泛關(guān)注。近日，我國發(fā)布《人工智能生成合成內(nèi)容標識辦法》，中國信通院也啟動了2025年對AI智能體和大模型的安全評估工作，為AI應(yīng)用劃定安全邊界，推動人工智能在合法、安全、可控的框架內(nèi)發(fā)展。

AI應(yīng)用加速落地 賦能千行百業(yè)

近日，AI智能體產(chǎn)品接連發(fā)布，AI應(yīng)用加速落地。在電商平臺，探域科技于3月17日發(fā)布“探域電商智能體”，成為“智能客服”，幫助商家智能回復買家提問，并可執(zhí)行營銷任務(wù)。在辦公領(lǐng)域，釘釘宣布推出AI智能體客服，作為企業(yè)的“電子員工”，AI智能體客服可接入企業(yè)官網(wǎng)、公眾號直接服務(wù)消費者和企業(yè)客戶。在醫(yī)藥領(lǐng)域，中康科技于3月15日正式發(fā)布“醫(yī)療健康全場景智能體”，輔助醫(yī)生提升診斷效率和精準度，幫助連鎖藥店優(yōu)化庫存與運營效率。

今年一季度，互聯(lián)網(wǎng)企業(yè)在AI板塊競相發(fā)力，進一步推高了AI應(yīng)用熱度。華鑫證券研究報告顯示，阿里、騰訊、字節(jié)跳動等企業(yè)積極布局AI產(chǎn)業(yè)鏈。例如，阿里正式發(fā)布并開源推理模型通義千問QwQ-32B，并宣布未來三年將在云和AI領(lǐng)域投入超過3800億元;騰訊借接入DeepSeek的熱度，持續(xù)投放廣告;字節(jié)跳動利用自家豆包模型，圍繞自身生態(tài)打造營銷策略。

“2025年可能會成為AI智能體爆發(fā)的元年。”百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏近日發(fā)文稱。他提到，推理大模型的深度思考能力將推動“AI智能體”落地。隨著大模型技術(shù)的迭代和應(yīng)用成本的下降，人工智能應(yīng)用將迎來大爆發(fā)，加速賦能工業(yè)、制造、能源、交通、政務(wù)等行業(yè)。

AI正加速重構(gòu)生產(chǎn)力，在眾多行業(yè)中發(fā)揮著不可小覷的作用。在化工領(lǐng)域，中國化學黨委書記、董事長莫鼎革表示，AI可提高化學工程中的建模速度、計算效率與準確性，解放勞動力。在裝備制造業(yè)，中國中車董事長孫永才表示，要推動AI技術(shù)深度融入中車全產(chǎn)業(yè)鏈、供應(yīng)鏈和創(chuàng)新鏈，全面賦能22個方向、106個業(yè)務(wù)、369個場景，發(fā)揮人工智能對產(chǎn)業(yè)發(fā)展的“乘數(shù)倍增效應(yīng)”。在能源生產(chǎn)領(lǐng)域，中國核電董事長盧鐵忠稱，中國核電旗下兩家單位將AI技術(shù)融入原本的大數(shù)據(jù)模型，將智能回答和數(shù)據(jù)分析效率提升了45%。在醫(yī)療領(lǐng)域，圣湘生物董事長戴立忠說，AI技術(shù)與生命科技加速融合，將推動藥物研發(fā)、基因組學、醫(yī)學影像分析、臨床決策支持、生物制造、健康管理、合成生物學等領(lǐng)域迎來爆發(fā)式增長。

構(gòu)筑安全邊界 應(yīng)對AI風險挑戰(zhàn)

AI技術(shù)廣泛應(yīng)用，也帶來安全風險。從國家法律法規(guī)到行業(yè)企業(yè)舉措，各界積極探索如何在充分發(fā)揮AI效能的同時構(gòu)筑堅實的安全邊界。

在剛剛過去的3·15國際消費者權(quán)益日，AI深度偽造引發(fā)的新型騙局引發(fā)網(wǎng)民熱議。AI生成內(nèi)容帶來的安全風險日益凸顯，小米集團創(chuàng)始人、董事長兼CEO雷軍近日表示，AI換臉、擬聲等技術(shù)，帶來新的違法重災(zāi)區(qū)，他本人就是AI換臉擬聲的“受害者”。

針對這一問題，近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》，為AI生成的內(nèi)容劃定安全邊界。《標識辦法》明確，人工智能生成合成內(nèi)容標識主要包括顯式標識和隱式標識兩種形式，并強調(diào)任何組織和個人不得惡意刪除、篡改、偽造、隱匿標識，不得通過不正當標識手段損害他人合法權(quán)益。

在行業(yè)應(yīng)用中，大模型也可能帶來安全風險。在醫(yī)療應(yīng)用領(lǐng)域，科大訊飛董事長劉慶峰表示，大模型技術(shù)在醫(yī)療臨床、服務(wù)、管理等領(lǐng)域應(yīng)用廣泛，但面臨著數(shù)據(jù)安全、醫(yī)學專業(yè)性及倫理風險等問題，如部分AI應(yīng)用不具備專業(yè)認證的醫(yī)療能力卻能回答相關(guān)問題，造成極大認知誤解，應(yīng)制定醫(yī)療健康行業(yè)大模型應(yīng)用技術(shù)標準與測試規(guī)范。

個人與企業(yè)的數(shù)據(jù)安全同樣面臨威脅。奇安信董事長齊向東說，當下許多企業(yè)和個人部署私有化大模型時，服務(wù)器未采取安全措施，數(shù)據(jù)隱私和基礎(chǔ)設(shè)施安全風險巨大。要系統(tǒng)提升安全能力，確保人工智能安全發(fā)展，“安全”必須要“快一步”。面對AI應(yīng)用帶來的多個層面網(wǎng)絡(luò)安全挑戰(zhàn)，360集團創(chuàng)始人周鴻祎提出“以模制模” 思路，通過研發(fā)安全大模型，管理企業(yè)知識庫的使用、智能體的調(diào)用，并管理基座模型產(chǎn)生幻覺的問題。

中國信通院人工智能所安全與具身智能部主任石霖指出，近年來，語言大模型、多模態(tài)模型、智能體和具身智能等領(lǐng)域不斷出現(xiàn)突破性創(chuàng)新，推動人工智能邁向通用智能初始階段。然而，人工智能也帶來了諸多潛在的風險和挑戰(zhàn)，規(guī)范人工智能應(yīng)用安全邊界的核心在于守住安全底線，確保人工智能技術(shù)在合法、安全、可靠、可控和向善的框架內(nèi)發(fā)展。為此，我國圍繞統(tǒng)籌“發(fā)展與安全”兩項重要議題，先后頒布一系列重要文件，加強頂層設(shè)計，推動人工智能產(chǎn)業(yè)良性發(fā)展，針對重點領(lǐng)域開展敏捷治理實踐，通過“小快精”的治理模式，應(yīng)對技術(shù)帶來的復雜挑戰(zhàn)。

平衡創(chuàng)新與安全 迎接AI時代

據(jù)今年發(fā)布的第55次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展狀況統(tǒng)計報告》，我國生成式人工智能產(chǎn)品用戶規(guī)模達2.49億人。AI技術(shù)成為未來競爭力的重要一環(huán)。

為AI健康發(fā)展塑造根基，需要更完善的治理框架。2024年9月，全國網(wǎng)絡(luò)安全標準化技術(shù)委員會發(fā)布《人工智能安全治理框架》1.0版，以鼓勵人工智能創(chuàng)新發(fā)展為第一要務(wù)，以有效防范化解人工智能安全風險為出發(fā)點和落腳點，提出了包容審慎、確保安全，風險導向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對，開放合作、共治共享等人工智能安全治理的原則。

“實現(xiàn)推動技術(shù)創(chuàng)新和保障安全的平衡，一方面要加強多元共治;另一方面要充分發(fā)揮產(chǎn)業(yè)界的自治自律能力。”石霖說。中國信通院正在推動人工智能安全治理方面的研究。一是開展基于風險的安全治理框架研究，愈發(fā)聚焦識別、評估、應(yīng)對人工智能“真風險”。二是緊隨前沿應(yīng)用，布局安全測試方案。三是關(guān)注產(chǎn)業(yè)訴求，凝聚產(chǎn)業(yè)力量。