RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何開啟Stable Diffusion WebUI模型推理部署

捷易物聯(lián) ? 2024-12-11 20:13 ? 次閱讀

自從模型廣場上新后,有不少朋友來咨詢小助手如何開啟模型的推理部署,今天,小助手就以Stable Diffusion WebUI為例,教大家如何捷智算平臺開啟模型的推理部署。

Web UI模型詳細(xì)部署教程

進(jìn)入捷智算,在菜單欄找到【模型廣場】就可以看到上新的模型~

44aa1dc8-b7b9-11ef-8084-92fbcf53809c.png

一、選擇模型類型

根據(jù)自己興趣的模型點擊【推理部署】,我們找到StableDiffusionWebUI點擊【推理部署】。

二、購買容器

選擇需要的GPU卡及分區(qū),然后點擊【啟動實例】

44ecf08a-b7b9-11ef-8084-92fbcf53809c.png

也可以在購買容器頁面點擊【模型鏡像】,選擇需要的模型鏡像,進(jìn)入部署好模型的容器。

450a7b50-b7b9-11ef-8084-92fbcf53809c.png

三、打開jupyter文檔

創(chuàng)建實例運行成功后點擊【更多操作】-【查看信息】,獲取并復(fù)制jupyter密碼

452c6986-b7b9-11ef-8084-92fbcf53809c.png45377ca4-b7b9-11ef-8084-92fbcf53809c.png

獲取密碼后點擊jupyter,輸入復(fù)制的密碼

454fd290-b7b9-11ef-8084-92fbcf53809c.png455ffa44-b7b9-11ef-8084-92fbcf53809c.png

就可以進(jìn)去到模型的jupyter文件頁面啦~例如選的是Stable diffusion模型,則點擊Stable Diffusion文件夾

456cc42c-b7b9-11ef-8084-92fbcf53809c.png

四、啟動模型

點擊模型啟動ipynb格式文件,按教程點擊點擊上方 ?? 按鍵直接運行

點擊Restart,重啟內(nèi)核運行

看到顯示URL鏈接就說明模型啟動成功啦~

45aa78bc-b7b9-11ef-8084-92fbcf53809c.png

五、配置外網(wǎng)端口并外網(wǎng)打開

要留意一下哦!模型廣場web的一般是鏈接是0.0.0.0:8801,但是只能在內(nèi)網(wǎng)打開(也就是不能在您自己的電腦打開模型鏈接的意思),如果想外網(wǎng)分享鏈接,需要申請端口開放。返回控制臺,點擊【更多操作】-【設(shè)置端口】

45c95700-b7b9-11ef-8084-92fbcf53809c.png

內(nèi)網(wǎng)端口輸入8801,點擊【確認(rèn)】,就會生成一個外網(wǎng)端口

45e21c54-b7b9-11ef-8084-92fbcf53809c.png

再次點擊設(shè)置端口,就可以看到生成的外網(wǎng)端口,比如20403

46054c1a-b7b9-11ef-8084-92fbcf53809c.png

這樣就可以在外網(wǎng)打開

如果看到遠(yuǎn)程地址是183.47.51.183,那你就可以在自己的電腦瀏覽器輸入【183.47.51.183:20403】打開Web UI使用界面。

461ee0a8-b7b9-11ef-8084-92fbcf53809c.png

打開后,大家就可以在SD的世界里暢玩啦~記得先去找小助手薅羊毛,再來推理部署

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268875
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    47183

    瀏覽量

    238213
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3226

    瀏覽量

    48806
收藏 人收藏

    評論

    相關(guān)推薦

    AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測模型

    智視覺模塊上部署 PaddleDetection 模型如果說有自己制作數(shù)據(jù)的話,需要將數(shù)據(jù)上傳,然后在修改全局配置項,修改數(shù)據(jù)集地址以及對應(yīng)的類別數(shù)。 按照廠家提供的配置直接進(jìn)行訓(xùn)練轉(zhuǎn)換。 訓(xùn)練完成后,會自動生成一個rknn模型
    發(fā)表于 12-19 14:33

    阿里云開源推理模型QwQ

    近日,阿里云通義團(tuán)隊宣布推出全新AI推理模型QwQ-32B-Preview,并同步實現(xiàn)了開源。這一舉措標(biāo)志著阿里云在AI推理領(lǐng)域邁出了重要一步。 據(jù)評測數(shù)據(jù)顯示,QwQ預(yù)覽版本已具備研究生水平的科學(xué)
    的頭像 發(fā)表于 11-29 11:30 ?531次閱讀

    使用vLLM+OpenVINO加速大語言模型推理

    隨著大語言模型的廣泛應(yīng)用,模型的計算需求大幅提升,帶來推理時延高、資源消耗大等挑戰(zhàn)。
    的頭像 發(fā)表于 11-15 14:20 ?370次閱讀
    使用vLLM+OpenVINO加速大語言<b class='flag-5'>模型</b><b class='flag-5'>推理</b>

    高效大模型推理綜述

    模型由于其在各種任務(wù)中的出色表現(xiàn)而引起了廣泛的關(guān)注。然而,大模型推理的大量計算和內(nèi)存需求對其在資源受限場景的部署提出了挑戰(zhàn)。業(yè)內(nèi)一直在努力開發(fā)旨在提高大
    的頭像 發(fā)表于 11-15 11:45 ?338次閱讀
    高效大<b class='flag-5'>模型</b>的<b class='flag-5'>推理</b>綜述

    YOLOv6在LabVIEW中的推理部署(含源碼)

    YOLOv6 是美團(tuán)視覺智能部研發(fā)的一款目標(biāo)檢測框架,致力于工業(yè)應(yīng)用。如何使用python進(jìn)行該模型部署,官網(wǎng)已經(jīng)介紹的很清楚了,但是對于如何在LabVIEW中實現(xiàn)該模型部署,筆者
    的頭像 發(fā)表于 11-06 16:07 ?243次閱讀
    YOLOv6在LabVIEW中的<b class='flag-5'>推理</b><b class='flag-5'>部署</b>(含源碼)

    LLM大模型推理加速的關(guān)鍵技術(shù)

    LLM(大型語言模型)大模型推理加速是當(dāng)前人工智能領(lǐng)域的一個研究熱點,旨在提高模型在處理復(fù)雜任務(wù)時的效率和響應(yīng)速度。以下是對LLM大模型
    的頭像 發(fā)表于 07-24 11:38 ?855次閱讀

    實操: 如何在AirBox上跑Stable Diffusion 3

    使用StableDiffusion3Medium開源模型,通過SOPHONSDK移植到SG2300X處理器系列產(chǎn)品上進(jìn)行本地TPU硬件加速推理,實現(xiàn)在radxaAirbox上離線快速生成特
    的頭像 發(fā)表于 07-23 08:34 ?243次閱讀
    實操: 如何在AirBox上跑<b class='flag-5'>Stable</b> <b class='flag-5'>Diffusion</b> 3

    英偉達(dá)推出AI模型推理服務(wù)NVIDIA NIM

    英偉達(dá)近日宣布推出一項革命性的AI模型推理服務(wù)——NVIDIA NIM。這項服務(wù)將極大地簡化AI模型部署過程,為全球的2800萬英偉達(dá)開發(fā)者提供前所未有的便利。
    的頭像 發(fā)表于 06-04 09:15 ?674次閱讀

    UL Procyon AI 發(fā)布圖像生成基準(zhǔn)測試,基于Stable Diffusion

    UL去年發(fā)布的首個Windows版Procyon AI推理基準(zhǔn)測試,以計算機(jī)視覺工作負(fù)載評估AI推理性能。新推出的圖像生成測試將提供統(tǒng)一、精確且易于理解的工作負(fù)載,用以保證各支持硬件間公平、可比的性能表現(xiàn)。
    的頭像 發(fā)表于 03-25 16:16 ?871次閱讀

    Stability AI推出全新Stable Video 3D模型

    近日,Stability AI 推出了全新的 Stable Video 3D 模型,該模型以其獨特的功能吸引了眾多關(guān)注。此模型具備從單張圖像中生成多視圖3D視頻的能力,為視頻制作領(lǐng)域帶
    的頭像 發(fā)表于 03-22 10:30 ?831次閱讀

    基于OpenCV DNN實現(xiàn)YOLOv8的模型部署推理演示

    基于OpenCV DNN實現(xiàn)YOLOv8推理的好處就是一套代碼就可以部署在Windows10系統(tǒng)、烏班圖系統(tǒng)、Jetson的Jetpack系統(tǒng)
    的頭像 發(fā)表于 03-01 15:52 ?1583次閱讀
    基于OpenCV DNN實現(xiàn)YOLOv8的<b class='flag-5'>模型</b><b class='flag-5'>部署</b>與<b class='flag-5'>推理</b>演示

    韓國科研團(tuán)隊發(fā)布新型AI圖像生成模型KOALA,大幅優(yōu)化硬件需求

    由此模型的核心在于其運用了“知識蒸餾”(knowledge distillation)技術(shù),這使得開源圖像生成工具Stable Diffusion XL可大幅縮小其規(guī)模。原Stable
    的頭像 發(fā)表于 03-01 14:10 ?618次閱讀

    Stability AI試圖通過新的圖像生成人工智能模型保持領(lǐng)先地位

    Stability AI的最新圖像生成模型Stable Cascade承諾比其業(yè)界領(lǐng)先的前身Stable Diffusion更快、更強(qiáng)大,而Stab
    的頭像 發(fā)表于 02-19 16:03 ?934次閱讀
    Stability AI試圖通過新的圖像生成人工智能<b class='flag-5'>模型</b>保持領(lǐng)先地位

    邊緣側(cè)部署模型優(yōu)勢多!模型量化解決邊緣設(shè)備資源限制問題

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)大模型的邊緣部署是將大模型部署在邊緣設(shè)備上,以實現(xiàn)更快速、更低延遲的計算和推理。邊緣設(shè)備可以是各種終端設(shè)備,如
    的頭像 發(fā)表于 01-05 00:06 ?3511次閱讀

    一種新的分割模型Stable-SAM

    SAM、HQ-SAM、Stable-SAM在提供次優(yōu)提示時的性能比較,Stable-SAM明顯優(yōu)于其他算法。這里也推薦工坊推出的新課程《如何將深度學(xué)習(xí)模型部署到實際工程中?
    的頭像 發(fā)表于 12-29 14:35 ?664次閱讀
    一種新的分割<b class='flag-5'>模型</b><b class='flag-5'>Stable</b>-SAM
    RM新时代网站-首页