6月28日,騰訊雲正式對外發布TI平台公有雲版本,並推出全新AI加速功能TI-ACC,其訓練加速性能較原生框架提升30%以上,模型推理加速比達2倍以上。該版本也是騰訊首個麵向開發者開放的一站式機器學習平台。
騰訊雲AI副總經理、AI開發平台資深美女福利导航專家李世平表示:“AI應用如今正在各個領域蓬勃發展,AI開發服務平台也已成為各行業AI應用的生產力工具。在此背景下,騰訊雲全新推出TI平台的公有雲版本,幫助廣大開發者簡化在工程上的大量研發投入,將精力聚焦在業務本身,從而提高AI應用的開發效率。”
據介紹,此次發布的TI平台公有雲版本性能強大、兼容性高、計費靈活、使用門檻低以及管理高效,可以有效幫助企業和開發者提升數據接入、數據處理、模型訓練、模型服務等環節的效率,助力AI開發降本增效。
其中,TI-ACC是本次TI平台全新升級發布的重磅功能,也是其強大性能的核心保障。TI-ACC支持大規模的訓練和推理加速,幫助企業和開發者解決了在AI加速方麵的痛點和需求。
針對訓練加速,TI-ACC能在模型精度不下降的前提下,提升模型的產出效率。依托優圖實驗室在各類複雜模型訓練加速的實踐經驗,TI-ACC實現了對主流的訓練框架和分布式訓練工具的支持,同時加速效果優異,較原生訓練框架提升了30%以上的訓練性能。
針對推理加速,TI-ACC能在不影響預測精度的前提下降低GPU資源占用率,其加速效果、使用便捷性較市麵開源方案均有明顯的優勢。在產品能力上,TI-ACC除了可以支持主流的各類模型格式,同時也包含了豐富的推理加速優化手段,相比原始模型,其推理加速比通常達到兩倍以上。
以某商品識別行業ISV廠商客戶為例,該客戶采用了高精度的Detectron2商品識別模型,而隨著業務規模擴大,其GPU卡資源投入成本不斷提高,降本訴求也愈加強烈。采用TI平台後,客戶將TI-ACC加速優化後的模型部署在生產環境,推理性能相比客戶baseline 提升了100%左右,服務QPS提升了45%,雲資源成本支出也得到了有效降低。
目前,騰訊雲TI平台已在泛互、泛政務、醫療、金融、工業、傳媒等行業落地應用,幫助實現了智能工業質檢、金融AI中台、智慧化城市運營管理、疾病輔助診斷等諸多細分領域AI應用的開發。
作為“下一個十年”的核心科技手段之一,AI正在加速滲透到各行各業,推動其發展與創新。麵向未來,騰訊雲也將持續精進AI開發平台的產品創新能力,為企業和開發者提供更加豐富的平台化服務,賦能千行百業,引領時代之聲。
星空人工智能美女福利导航網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com美女直播全婐APP免费下载將及時溝通與處理。！：首頁 > 新聞 » 騰訊雲發布TI平台公有雲版,新功能TI-ACC助AI推理性能提升100%+