使用生成式AI
您導入AI的時間成本將以年計算的節省
為什麼生成式AI要選擇邊緣
即時反應
資訊安全
網路穩定
傳輸費用
離線使用
客製應用
時間延遲
△ 雲端上傳影像與感測資料後才能 prompt，亦需回傳 response 的時間，應用上有延遲感
資安風險
△ 需要上傳待測資料與 prompt和下載 resposne，具相對高的資安風險
依賴網路
△ 無法在斷線或離線時使用，沒有網路，相關應用停擺
需要寬頻傳輸費用
△ 因需將影像與感測資料上傳，需要較大頻寬的傳輸費用；當佈點增加，費用將持續增加
無法離線使用
△ GenAI 應用依賴網路傳輸資料，無法於斷線或離線時使用
可以客製
△ 使用各大廠 Foundation Model 亦可利用 RAG 強化，但可能須付費使用
即時性高
✓ 邊緣運算系統整合攝影機、感測器等資料源，可即時進行 GenAI prompt 與 response
安全性高
✓ GenAI prompt 與 response 間的資料無須離開系統，免去資訊傳輸過程的資安問題
無須網路
✓ 無需網路即可使用，可將須回傳後端伺服機的資料先在邊緣端儲存，俟網路恢復後傳輸
無需傳輸費用
或較低費用
✓ 若無需與後台溝通，則不需傳輸費用；應用過程則只需低頻寬傳輸，費用較低
可離線使用
✓ GenAI 模組安裝於邊緣運算系統
較容易客製
✓ NVIDIA 提供免費 Foundation Model 並可利用 RAG 強化應用品質與效率
課程亮點
講師
NVIDIA認證
第一名 Jetson AI白金大使
實作
手把手教學
AI不再只是紙上談兵
成果體驗
成效馬上見
實際應用直接體驗
工廠其實處處
都可以使用生成式AI
生成式AI 沒你想的難
研華實習生見證，大學生也行
精彩議程
Part 1 【 輕鬆上手 】9:30 – 12:30
一學就會！手把手教學 SDK 快速建置
1. Jetson BSP Jetpack 安裝
2. G Streamer 的使用
3. NVIDIA SDK 介紹
4. (Metropolis Microservices for Jetson) MMJ
Part 2 【 成果體驗 】13:30 – 16:30
成果直接上！四種引擎應用 生成式AI超有感
1. 文字生成 (Tutorial - text-generation-webui)：
輸入文字問題後由生成式 AI 回應，可用於對話式機器人
2. 圖像生成 (Image Generation)：
透過輸入文字的描述，生成圖片，可用於虛擬化、廣告與行銷
3. 圖像轉換 (Vision Transformers)：
將圖像轉為文字類別，可用於圖像識別、辨識物件
4. Live LLaVA (Tutorial - llamaspeak)：
即時圖像與文字模組，可依 prompt 生成文字回應圖像中的內容，適合場景描述、資料統計
※主辦單位保留課程更動的權利
活動資訊
日期：2024 / 5 / 31（五）9:30 – 17:00
地點：研華內湖總部 台北市內湖區瑞光路26巷20弄1號 B1 102
課程注意事項：
1. 活動當天提供之硬體(Jetson Orin NX系統)僅供上課使用
2. 本課程價錢5,000元不含硬體，若有需求請洽業務諮詢
3. 需自備筆記型電腦，並搭載 Windows 10 以上作業系統 + 16GB Memory + i3以上CPU
4. 因活動名額有限，若超過限制名額，以完成報名時間為主
5. 若人數不足 10 人，將延期或取消
6. 行前通知將於活動前三日發送至您的信箱
7. 本活動附贈午餐
※ 為維護上機教學品質，本活動限定 20 人
※ 最後截止報名日 2024 / 5 / 27
5 / 27 報名倒數
天 時 分 秒
活動洽詢：江小姐 02-7732-3399 轉 7777
電子信箱：Jessica.Chiang@advantech.com.tw