近日，人工智能領域第一批科技倫理審查機構登記證書頒發(fā)儀式在湖南舉行，湖南省科技廳廳長朱皖為6家獲人工智能科技倫理審查機構登記備案的企業(yè)頒發(fā)證書，“智慧眼”獲批在列。
科技倫理是開展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范。隨著人工智能賦能的日益廣泛，人工智能所帶來的隱私泄漏、偏見歧視、責權歸屬、技術濫用等倫理問題也在不斷擴大，給社會治理帶來全新挑戰(zhàn)，迫切需要建立健全科技倫理治理體系。
朱皖廳長表示，希望首批獲登記備案的機構充分發(fā)揮示范帶動作用，在推動全省人工智能倫理治理，促進創(chuàng)新和倫理治理相統(tǒng)一上立好標、打好樣，為加快培育發(fā)展新質生產力增添新動能。
在生成式人工智能的產業(yè)浪潮下，如何讓科技更“向善”，堅守倫理道德邊界是每個科技企業(yè)都需要承擔的社會責任。智慧眼作為一家領先的醫(yī)療人工智能企業(yè)，既要做好科技創(chuàng)新的攻堅者，也要做好技術向善的守門人，目前公司已初步建立起人工智能倫理治理體系，力求實現從理論到實踐、從研發(fā)到產品的全生命周期的多維度閉環(huán)，構建一個負責任的AI生態(tài)系統(tǒng)。
智慧眼人工智能科技倫理審查委員會負責人表示：“智慧眼專門設立AI技術委員會，關注領域包括但不限于AI大模型、自然語言處理(NLP)、深度學習訓練和推理等。此外，在相關規(guī)范中也加強數據安全、模型透明度、算法可解釋性和用戶隱私等關鍵等方面的技術研究，我們將堅守安全合規(guī)原則，確保應用和服務在最大程度上減少歧視、偏見，以促進人工智能健康高質量發(fā)展。‘’
在“AI+醫(yī)療”領域，智慧眼砭石大模型倫理方面做了重點考量，一方面，采用知識圖譜與大模型相結合的技術路線，通過在訓練過程中加入知識圖譜對訓練過程進行知識增強，結合RLHF技術，在500億參數條件下比單純使用大模型技術，醫(yī)學問題回答準確度提升近40%。另一方面，隱私計算條件下的大模型聯邦訓練，保證了數據的多樣化和高質量，充分釋放數據要素價值，真正做到數據的“可用不可見”、“數據不出域”。此外，砭石醫(yī)療大模型能夠支持醫(yī)療領域多模態(tài)的輸入，包括醫(yī)療領域文本、圖像、視頻和音頻形式，可以有機整合不同的信息，相比單模態(tài)信息更加全面，讓AI充分施展拳腳，方便醫(yī)藥機構使用。
關于未來在倫理問題的治理路徑，智慧眼人工智能科技倫理審查委員會將重點著手風險能力建設和技術能力建設。風險能力建設，包括建設算法評估、風險檢測、干預機制的全生命周期風險管理流程，以及技術安全性、魯棒性、公平性、可解釋與可干預性等科技倫理審查和治理工具。技術能力建設，包括增加在隱私保護、安全可靠、可信可控等關鍵方向前沿技術的布局和探索。
智慧眼希望通過技術創(chuàng)新與治理創(chuàng)新，構建負責任、可信賴的大模型發(fā)展生態(tài)，進一步推動大模型在各個領域、行業(yè)的深度應用，使其真正造福社會。
湘ICP備20003263號-1