一、建設背景

隨著大數據、云計算等技術的不斷進步，大模型技術已成為人工智能領域的重要研究方向，其在自然語言處理、計算機視覺、語音識別等領域展現出強大的應用潛力。自2022年11月ChatGPT問世以來，大模型開始備受關注，科技們紛紛推出大模型實驗室解決方案。大模型的價值不知在于互聯網場景，而在于大模型能力垂直化，能夠與具體的業務需求深度融合。

大模型實驗室是在學校現有的實驗室建設基礎上，依托企業，聚焦行業大模型產業發展方向，建設一個產學研一體化的合作教學平臺，形成“教與學緊密結合、理論與實踐緊密結合，學校與企業緊密結合”的創新教育模式。大模型實驗室不僅可以賦能院校“雙師型”師資隊伍建設，還能培養大模型應用開發方面的復合型、創新型人才。

基于產教融合實訓基地開放共享應用需要和校企合作項目化特點，建設集教學培訓、項目實踐、科研于一體的“大模型技術應用實訓室”，滿足集教學、科研、培訓、社會服務于一體的應用、管理與服務需要，形成一批有影響力的社會服務成果，促進科技成果轉化和產業化，不斷提升學校服務地方經濟社會發展的能力。

在當前信息化社會背景下，高職院校作為培養高技能人才的重要基地，面臨著培養具有創新能力、實踐能力和跨界融合能力的高素質人才的需求。因此，建設大模型技術應用實訓室，為學生提供實踐平臺，對于提升高職院校人才培養質量、推動產學研用深度融合具有重要意義。建設大模型技術應用實訓室，有助于培養更多具備大模型技術應用能力的高素質人才，滿足社會經濟發展的需求。

二、關鍵技術

模型架構設計與優化：大模型的架構設計至關重要，它決定了模型能否有效地處理海量數據并提取出有價值的信息。同時，模型的優化也是提升性能的關鍵，包括超參數調整、模型剪枝、量化等技術，以減少計算量、提高推理速度。

預訓練與遷移學習：預訓練技術使得模型在大量無標注數據上進行學習，從而掌握通用的知識表示。遷移學習則允許將預訓練好的模型遷移到新的任務上，通過微調適應特定領域的需求，極大地提高了模型在新任務上的性能。

分布式計算與并行處理：大模型的訓練往往需要處理海量的數據和進行復雜的計算，因此分布式計算和并行處理技術成為關鍵。通過將這些任務分散到多個計算節點上并行處理，可以顯著提高訓練效率。

數據處理與特征工程：高質量的數據是訓練出優秀模型的基礎。數據處理包括數據清洗、標注、增強等操作，以提高數據的質量。特征工程則是從原始數據中提取出有意義的特征，以供模型學習使用。

自動化機器學習（AutoML）：隨著模型規模和復雜度的增加，手動調整超參數和模型結構變得越來越困難。AutoML技術通過自動化地搜索的超參數和模型結構，降低了模型調優的難度，提高了模型性能。

模型壓縮與部署：大模型往往具有較高的計算復雜度和存儲需求，不利于在實際應用中部署。模型壓縮技術如剪枝、量化等可以降低模型的復雜度和大小，便于部署到資源有限的設備上。同時，高效的模型部署技術也是確保模型能夠在實際場景中發揮作用的關鍵。

三、建設目標

1)完善高校大模型技術應用課程體系

提供豐富的大模型課程案例，在人工智能教學資源基礎上加入的大模型技術、案例等內容，并增加實驗、實訓環節的比重，通過實際操作案例，讓學生在理論學習的基礎上，加深對大模型應用技術的理解和應用能力，助力高校人才培養。

2) 建成設施的大模型技術應用實訓室

在學校現有的實驗室建設基礎上，依托企業，聚焦大模型技術發展，以“面向產業、項目驅動、能力培養、全面發展”的教育指導理念，依托的人工智能教學科研平臺和真實的行業案例，形成“教與學緊密結合、理論與實踐緊密結合，學校與產業緊密結合”的教育模式。通過實驗室的建設，依托校企共建的人工智能教學、科研平臺，與學校深度融合共育技術技能人才，實現包括專業教學實訓、師資培訓、資源開發、實習實踐、科學研究等教學活動。

3)培養人工智能開發應用的復合型人才

實驗室建設的核心目標是為了培養具有扎實基礎的大模型開發、大模型應用人才，實驗室建設后，通過完善教學實訓資源及應用軟件建設，全面支撐大模型技術應用領域相關教學實訓開展，為培養大模型開發和應用方面的核心人才提供支撐。

4)培養創新創業能力

在實際案例操作過程中，推動人工智能與其他學科的有機融合教育，如藝術、設計、傳媒等，通過大模型輔助激發學生創新思維，培養學生的跨領域創新能力，為社會培養更多具有創新意識和實踐能力的“智能型”人才。

四、實訓室建設內容

4.1 大模型技術應用教學平臺

大模型技術應用教學平臺是針對職業教育發展現狀，以計算機技術、多媒體技術、網絡通信技術等現代信息技術手段構建的一種新型教學模式，是融合了現代教育理念、教學內容和現代信息技術的具有多種功能的開放式的教、學、訓一體化交互平臺。

平臺采用B/S結構，運用spring cloud微服務技術，采用kubernetes技術進行部署，支持公有云、私有云、混合云模式安裝；平臺支持多數據源從而保證技術的一致性；確保服務的穩定、可擴展、彈性擴容；每個獨立服務支持分布式集群部署，可以無限橫向擴展，提高系統處理能力，支持大規模并發教學全場景和數字化專業群教學實踐應用。主要包含通用課程模塊和考試模塊。

通用教學模塊包含以下功能：課程制作工具、作業、活動、云盤、共享課、我的課、云優選課、云視頻庫、3D模型庫。

（1）課程制作工具模塊：支持pdf、ppt、word、excel等不同格式的文本、圖片、音頻、視頻、超鏈接等進行混合編排，并自動生成動態課程目錄，支持多源格式文件（至少包含：圖片、視頻、壓縮文件、word、ppt、excel、pdf等）同屏展示。

（2）作業模塊：支持單選、多選、判斷、主觀題等題型，支持自定義出題支持自動出題，支持監控，支持自動進行客觀題判題。

（3）共享課程模塊。

（4）我的課程：支持老師利用平臺提供的課程制作的課程或者平時積累的課程自動歸檔為我的課程，也可以將共享課程和云優選課、云視頻庫課程轉換成我的課程，支持我的課程一鍵分享到共享課程、云優選課中。

（5）課堂活動模塊：課堂活動至少包括：簽到、主題討論、提問、分組任務、投票、問卷、計時器等功能。

（6）云優選課模塊：將教學中多門課程的教材，教案，課件，微課，教學配套材料等教學元素整合到云優選課模塊，通過互聯網技術保證教學的實施與效果；支持智能備課、一鍵上課。內置豐富在線課程資源，至少包含100個視頻，每個不低于20分鐘。

（7）云視頻庫模塊：云視頻庫模塊提供數字化的教學內容，支持課堂教學，支持視頻顯示和多媒體課件互動，支持網絡課堂和遠程教學。豐富學生的課外學習，可為學校的專業建設提供有力支持，可充實校內圖書館的數字資源，建立數字閱覽室，可為學校進行示范性職業院校建設、精品課程建設、核心專業建設提供支持。

個人云盤：平臺為用戶提供云盤服務，云盤內所有文件都會按照不同的文件類型進行分類、分類至少包含視頻、音頻、圖片、文檔、回收站等、支持一鍵上傳、刪除、新建、重命名、移動等功能

(8)3D模型庫：至少包含3D模型50個，具備虛擬仿真教學制作工具，可播放 3D 模型、進行交互。

內置豐富大模型技術基礎課程：大模型簡介、Python與大模型、LLM大模型 API、C++與大模型、CUDA基礎、LangChain基礎、向量數據庫、prompt工程、大模型應用開發等課程資源。

4.2 大模型項目實訓管理平臺

大模型項目實訓管理平臺的功能主要涵蓋了實訓項目的全生命周期管理，從實訓任務、文檔管理、代碼開發與測試、實驗環境管理到成果提交與評估等各個環節。

用戶創建新的實訓項目，并設置項目的基本信息、目標、團隊成員等。為項目成員分配具體的任務，并實時跟蹤任務的完成情況，確保項目按計劃進行。提供項目成果的展示平臺，方便團隊成員分享和交流項目經驗、技術文檔等。

支持用戶上傳、編輯和保存各類實訓文檔，如需求文檔、設計文檔、測試報告等。提供文檔分類功能，便于用戶按項目、類型等快速檢索所需文檔。支持文檔的版本控制，確保文檔內容的準確性和一致性；同時支持多人協同編輯，提高團隊協作效率。

集成大模型開發所需的各種工具，如模型訓練框架、數據預處理工具、性能分析工具等，方便用戶一站式完成代碼開發與測試工作。平臺能夠自定義調用CPU和內存資源，自由配置專門針對大模型和深度學習等任務的硬件加速器（如GPU或XPU），能夠高效地執行大模型的prompt工程、大模型應用開發和大模型的微調。平臺支持主流的大模型基座，支持大模型基座私有化部署，包括智譜的ChatGLM、百川的Baichuan、阿里的Qwen等，助力用戶快速進行大模型的開發和微調。平臺還提供了豐富大模型開發工具、整套開發環境和資源監控功能，能夠靈活分配資源，方便用戶輕松使用、開發、管理大模型應用。

平臺實時監控實驗機的運行狀態，包括CPU、內存、磁盤等使用情況；提供實驗機的遠程管理功能，方便用戶進行故障排除和日常維護。收集并展示項目的進度、任務完成情況、代碼提交量等統計數據，幫助用戶了解項目整體情況。設置不同的用戶角色和權限，確保不同用戶只能訪問和操作其權限范圍內的內容。

4.3 大模型項目項目資源包

l基于 LLM(Large Language odel)大型語言模型的知識庫問答系統，它提供了一整套開箱即用的功能，包括數據處理、模型調用等能力，并且通過可視化的 Flow 進行工作流編排，從而實現復雜的問答場景。

l智能證件照制作算法，本項目基于OpenCV模型，使用 Python 語言實現智能摳圖、人臉檢測、尺寸切割等功能于一體，采用了一套完善的機器學習模型工作流，實現對多種用戶拍照場景的識別、摳圖與證件照生成。具體包含輕量級摳圖、根據不同尺寸規格生成不同的標準證件照、智能換正裝等；

l計算機視覺應用手寫數字識別，采用深度學習技術來構建一個手寫數字識別模型，基于MINST數據庫，使用 TensorFlow 和 Keras 這兩個流行的深度學習框架來實現手寫數字識別。

4.4 大模型技術應用平臺

     大模型技術應用平臺是一款專為高校大模型應用場景教學和科研打造的知識庫問答系統。該平臺易于使用，知識庫支持常見的txt、doc、pdf、md等數據文件上傳，同時提供了簡潔易懂的操作配置界面，使用戶可以輕松地搭建和訓練AI應用，并快速調用，滿足不同領域的交互式對話場景需求。此外平臺還支持可視化的工作流編排，能夠滿足復雜的問答場景搭建需求。通過大模型應用平臺，能夠更好幫助用戶更好地應用大模型技術，提升教學和科研質量。

4.5 大模型技術應用教學平臺硬件

CPU：多核心處理器，如 Intel 志強系列，不少于24核，以支持并發處理多個微服務實例。

RAM：至少 64 GB DDR4 RAM，以確保能夠同時運行多個微服務實例和相關的應用程序。

存儲：SATA SSD 或 HDD：至少 4 TB 用于數據存儲和備份，根據需要可增加容量。

網絡：至少 10 GbE 網絡接口，用于高速內部網絡通信和負載均衡。

主板： 主板應支持硬件虛擬化技術，如 Intel VT-x 或 AMD-V，以提高虛擬機性能。支持多核心 CPU 和大量 RAM 的主板。足夠的 PCIe 插槽，用于擴展網絡適配器和存儲設備。

電源供應：至少 750W 的電源，具有或白金效率認證，以確保穩定供電。

散熱系統：高性能 CPU 散熱器，如空氣散熱器或液冷系統。

數據傳輸和連接：USB 3.0 或更高版本的端口，用于外部存儲和其他設備的連接。HDMI端口，用于連接顯示器。

4.6 大模型項目實訓平臺硬件

CPU：Intel Xeon Gold 6230 或 AMD EPYC 7742 等，具有多個核心（至少 24 核）和高速緩存，以支持并行處理和高效的數據預處理。

GPU：NVIDIA GeForce RTX 4090：具備大量的 CUDA 核心和高速內存，適合進行深度學習模型的訓練。

RAM：至少 256 GB DDR4 ECC 內存，以支持大型模型的訓練和數據處理。

存儲：HDD 或 SSD：至少 8 TB 用于數據存儲和備份。

主板：支持 dual-width GPU 插槽，以確保顯卡能夠正確安裝和散熱。

足夠的 PCIe 插槽，用于擴展其他高速設備。

電源供應：至少 1200W 的電源，具有或白金效率認證，以確保穩定供電。

散熱系統：強勁的 CPU 散熱器，如液冷或大型空氣散熱器。顯卡專用的散熱系統，如水冷或高性能風扇。

機箱：大型機箱，具有良好的散熱和擴展空間，以便安裝多個 GPU 和散熱設備。

網絡：至少 10 GbE 網絡接口，用于快速數據傳輸和模型同步。

數據傳輸和連接：

USB 3.0 或更高版本的端口，用于外部存儲和其他設備的連接。

HDMI 端口，用于連接顯示器。

五、實訓室建設清單