我要預(yù)訂

咨詢電話：027-5111 9925 , 027-5111 9926手機：18971071887郵箱：Service@mingketang.com

課程大綱

1. 大模型的深入理解

1.1 自注意力機制

注意力機制的原理與發(fā)展

自注意力在文本處理中的應(yīng)用

1.2 Transformer模型

Transformer模型的結(jié)構(gòu)與工作原理

位置編碼與多頭注意力機制的詳細講解

實戰(zhàn)演練：實現(xiàn)簡單的Transformer模型

1.3 BERT模型介紹

BERT模型的雙向編碼器表示

BERT模型的預(yù)訓(xùn)練與微調(diào)過程

實戰(zhàn)演練：使用BERT進行文本分類任務(wù)

2. Embedding嵌入技術(shù)在大模型中的應(yīng)用

2.1 詞嵌入（Word Embedding）

Word2Vec、GloVe、FastText的基本原理

實戰(zhàn)演練：構(gòu)建并可視化詞嵌入模型

2.2 句子嵌入（Sentence Embedding）

句子嵌入技術(shù)及其在文本相似度計算中的應(yīng)用

2.3 上下文嵌入（Contextual Embedding）

上下文嵌入的概念及其在大模型中的應(yīng)用

3. 工具與平臺

3.1 LLM應(yīng)用程序技術(shù)棧和提示詞工程（Prompt Engineering）

提示詞工程的基本概念與重要性

提示詞設(shè)計與優(yōu)化的技巧

實戰(zhàn)演練：設(shè)計并優(yōu)化提示詞進行文本生成

3.2 LangChain等工具的使用與基本演練

安裝與配置LangChain

LangChain的基本使用方法與實際應(yīng)用案例

4. 實戰(zhàn)演練

4.1 基于大模型的文本生成與理解

文本生成任務(wù)：生成詩歌、新聞、故事等

文本理解任務(wù)：情感分析、主題建模

實戰(zhàn)演練：使用大模型進行文本生成與分析

李老師

李海良簡介

李海良，，暨南大學(xué)副教授，碩士生導(dǎo)師，九三學(xué)社社員，中山大學(xué)工學(xué)博士香港城市大學(xué)訪問學(xué)者，廣東工業(yè)大學(xué)校外合作研究生導(dǎo)師。研究方向為深度學(xué)習(xí)、圖像識別、智慧綜合能源和能源大數(shù)據(jù)。在IEEE Transactions on Neural Networks and Learning Systems和Information fusion等TOP期刊第一作者發(fā)表SCI論文6篇，主持省級課題2項，參與國家自然科學(xué)基金1項。長期擔(dān)任IEEE Internet of Things Journal、International Journal of Communication Systems、IET Computer Vision、IET Image Processing和 IET Radar, Sonar & Navigation等SCI期刊審稿人。曾獲得第六屆全國電子信息科學(xué)博士生論壇論文成果匯報二等獎（2017），第七屆全國電子信息科學(xué)博士生論壇論文成果匯報三等獎（2016），2020年12月在INSCRYPT 2020 國際會議擔(dān)任Session chair。

2018年獲得中山大學(xué)工學(xué)博士學(xué)位，2019年至2021年在暨南大學(xué)網(wǎng)絡(luò)安全學(xué)院做博后，合作導(dǎo)師為密碼學(xué)與信息安全領(lǐng)域?qū)＜?、國家杰青翁健教授?/p>

擅長操作系統(tǒng)和數(shù)據(jù)庫的安全配置，針對注入式、篡改、偽造、流量分析以及竊聽等主流攻擊方式有深入研究，在人工智能領(lǐng)域，針對對抗樣本攻擊與防御方面發(fā)表多篇SCI論文。

曾參與基于聯(lián)邦學(xué)習(xí)的廣東海關(guān)數(shù)據(jù)隱私保護系統(tǒng)的研發(fā)工作，參與暨南大學(xué)與金山毒霸的校園網(wǎng)攻防安全軟件的研發(fā)工作

參與基于視頻圖像安全的珠海電力局電纜防外破項目

參與東軟集團社保系統(tǒng)和醫(yī)院管理系統(tǒng)的研發(fā)工作

曾經(jīng)為廣東移動、深圳市電力局、肇慶學(xué)院、嶺南師范學(xué)院、華南農(nóng)業(yè)大學(xué)、東莞城市學(xué)院、電子科技大學(xué)中山學(xué)院以及鄭州航空工業(yè)管理學(xué)院等知名企業(yè)院校提供培訓(xùn)服務(wù)，積累了大量的行業(yè)培訓(xùn)項目經(jīng)驗。

擅長主講課程：

《人工智能》《計算機網(wǎng)絡(luò)》《網(wǎng)絡(luò)與信息安全》《軟件工程》《物聯(lián)網(wǎng)》《大數(shù)據(jù)和數(shù)據(jù)科學(xué)》 《網(wǎng)絡(luò)安全》 《互聯(lián)網(wǎng)與人工智能》 《網(wǎng)絡(luò)信息安全與數(shù)據(jù)安全》 《 高級計算機系統(tǒng)結(jié)構(gòu)》 《物聯(lián)網(wǎng)技術(shù)》 《 云計算與大數(shù)據(jù)算法設(shè)計》 《軟件工程》 《 研究方法論》 《物聯(lián)網(wǎng)技術(shù)與發(fā)展趨勢 《網(wǎng)絡(luò)空間安全前沿問題研究》 《智能人機交互》 《高級人工智能》 《大數(shù)據(jù)科學(xué)應(yīng)用》 《信息安全》 《高級軟件工程》 《高級算法設(shè)計與分析》

獲獎經(jīng)歷：

2015年8月 第六屆全國電子信息科學(xué)博士生論壇論文成果匯報二等獎

2016年8月 第七屆全國電子信息科學(xué)博士生論壇論文成果匯報三等獎

2020年12月 INSCRYPT 2020 Session chair

學(xué)習(xí)經(jīng)歷

2014年9月-2018年6月，中山大學(xué)，信息與通信工程，博士研究生

2017年7月-2017年9月，香港城市大學(xué)，訪問學(xué)者

工作經(jīng)歷

2019年2月至2021年2月，暨南大學(xué)信息科學(xué)技術(shù)學(xué)院，博士后

研究方向

基于注意力機制的神經(jīng)網(wǎng)絡(luò)，智慧綜合能源和能源大數(shù)據(jù)。

主要論文

1. Hailiang Li, Jian Weng*,Adaptive Dropout Method Based on Biological Principles，IEEE Transactions on Neural Networks and Learning Systems，vol.32,no.9, pp.4267-4276, Sept. 2021,JCR1區(qū),IF:10.451,TOP期刊

2. Hailiang Li, Jian Weng*, A Defense Method Based on Attention Mechanism Against Traffic sign Adversarial samples,Information Fusion,Volume 76, 2021, Pages 55-65,JCR1區(qū)，IF:12.975，TOP期刊

3. Hailiang Li, et al,A Semi-automated Annotation Algorithm Based on Weakly Supervised Learning for Medical Images，Biocybernetics and Biomedical Engineering 40 (2020) pp. 787-802, SCI索引，第一作者，影響因子：4.314

4. Hailiang Li, et al,An improved deep learning approach for detection of thyroid papillary cancer in ultrasound images，Scientific Reprots,(2018) 8:6600，SCI索引，第一作者，影響因子：4.379

5.張宇,李海良*.基于RSA的圖像可識別對抗攻擊方法[J].網(wǎng)絡(luò)與信息安全學(xué)報,2021,7(05):40-48.通信作者，中國科技核心期刊

承擔(dān)課題

1. 基于注意力機制的安全性圖像識別模型研究與應(yīng)用，2021廣東省普通高校特色創(chuàng)新項目，主持，17.12萬元，項目編號：2021KTSCX006；

2. 基于 AIOT 的多維視覺下電力施工人員工作監(jiān)控與管理系統(tǒng)，廣東省科技創(chuàng)新戰(zhàn)略專項資金，主持，2萬元，項目編號：PDJH2021b0058；

社會職務(wù)

廣東工業(yè)大學(xué)，校外合作碩士生導(dǎo)師

我要預(yù)訂

咨詢電話：027-5111 9925 , 027-5111 9926手機：18971071887郵箱：Service@mingketang.com