騰訊多媒體實(shí)驗(yàn)室 AIGC 能力助力數(shù)據(jù)萬象開啟智能剪輯大門
AIGC 正從效率,、質(zhì)量,、創(chuàng)意、多樣性各方面革新內(nèi)容生產(chǎn)流程,,伴隨 firely,、midjourney 等現(xiàn)象級的產(chǎn)品出現(xiàn),AIGC 將逐步廣泛服務(wù)于內(nèi)容生產(chǎn)的各類場景與內(nèi)容生產(chǎn)者,,隨著 AIGC 在內(nèi)容生產(chǎn)的需求場景不斷增加,,騰訊多媒體實(shí)驗(yàn)室也在 AIGC 領(lǐng)域持續(xù)發(fā)力,并通過數(shù)據(jù)萬象將能力成功應(yīng)用到傳媒,、社交,、文娛等多個行業(yè),逐步夯實(shí)全場景內(nèi)容生產(chǎn)力,。
足球精彩集錦
數(shù)據(jù)萬象泛互與傳媒客戶擁有不小體量的體育視頻數(shù)據(jù)處理需求,,尤其是賽事期間,足球賽事作為最受歡迎的體育賽事內(nèi)容消費(fèi)量一直居高不下,,球迷對其內(nèi)容的可觀賞性要求也頗高,,由于時長問題,未經(jīng)剪輯的足球比賽不能直接投放到體育新聞,、短視頻等場景用于賽事宣傳,。為此,騰訊多媒體實(shí)驗(yàn)室基于自研的 AIGC 系列技術(shù),通過騰訊云數(shù)據(jù)萬象產(chǎn)品為廣大客戶帶來足球比賽的智能剪輯能力,,在沒有人工剪輯參與的情況下自動生成賽事高光內(nèi)容,。
技術(shù)介紹
數(shù)據(jù)方面,騰訊多媒體實(shí)驗(yàn)室采集了 1200 多場具有代表性的足球賽事并標(biāo)注了高精度的數(shù)據(jù)集,。數(shù)據(jù)集覆蓋各類著名聯(lián)賽和杯賽,,累計 600 多個小時。同時,,騰訊多媒體實(shí)驗(yàn)室設(shè)置了 19 個關(guān)鍵事類別,,針對每一段視頻準(zhǔn)確標(biāo)注出全部關(guān)鍵事件的起始點(diǎn)、結(jié)束點(diǎn)和對應(yīng)類別,。關(guān)鍵事件分布如下圖,,基本可以反映真實(shí)比賽的數(shù)據(jù)分布。
【數(shù)據(jù)集關(guān)鍵事件分布】
算法方面,,騰訊多媒體實(shí)驗(yàn)室設(shè)計了一個基于智能拆條和進(jìn)球檢測的多模態(tài)方案來完成智能剪輯,。
【多模態(tài)智能剪輯方案】
智能拆條模塊基于視頻的圖像序列和音頻信息,通過子任務(wù)抽取多模態(tài)特征,,再由事件檢測模型定位各類關(guān)鍵事件,。針對單幀圖像、音頻信息,、圖像序列,,騰訊多媒體實(shí)驗(yàn)室基于事件標(biāo)簽有監(jiān)督地訓(xùn)練了三個特征提取器,用于提取圖片,、聲音,、動作等多模態(tài)特征。
事件檢測模型接受由時序卷積編碼再拼接的多模態(tài)融合特征作為輸入,,評估各個時刻屬于事件開始,、結(jié)束、過程的概率,,并由此構(gòu)建候選區(qū)間和對應(yīng)的時序特征,。候選區(qū)間評估階段利用時序特征評估對應(yīng)區(qū)間與真實(shí)事件區(qū)間的交并比,進(jìn)而實(shí)現(xiàn)事件定位,。最后結(jié)合子任務(wù)階段獲取的事件標(biāo)簽以及后處理算法就可以得到準(zhǔn)確的事件拆條結(jié)果,。
【事件檢測模型】
智能拆條的效果指標(biāo) mAP 達(dá)到了 82%,其中定位球和回放等事件的對應(yīng)指標(biāo)更是達(dá)到 90% 以上,。
【運(yùn)動戰(zhàn)精彩集錦示例】
進(jìn)球檢測模塊通過判斷比分變化情況來對進(jìn)球事件作補(bǔ)充,。在上述方案中,進(jìn)球事件的召回率并不高,,原因是騰訊多媒體實(shí)驗(yàn)室并沒有充分利用視頻里的比分信息,,最直觀的解決辦法是利用比分信息幫助判斷當(dāng)前的進(jìn)球情況,。在實(shí)際應(yīng)用中,,進(jìn)球檢測模塊針對視頻幀序列檢測出比分牌位置,,然后適當(dāng)擴(kuò)大邊緣后再做文字檢測獲取當(dāng)前幀比分?jǐn)?shù)位置,通過多幀聚類得到當(dāng)前比賽的比分?jǐn)?shù)位置,,最后利用文字識別技術(shù)獲得比分序列,,根據(jù)比分單邊遞增規(guī)則確認(rèn)進(jìn)球時刻。
【進(jìn)球檢測模塊】
進(jìn)球檢測模塊將進(jìn)球事件的召回率提高到 96%,,提高了集錦的完整性和精彩程度,。
【進(jìn)球精彩集錦示例】
在足球場景的智能剪輯方案中,騰訊多媒體實(shí)驗(yàn)室還新增了球星識別模塊,,用于剪輯特定球星片段,。該模塊通過使用人臉檢測算法定位視頻中的所有人臉,然后使用人臉識別模型編碼人臉特征,,通過聚類算法得到相似人臉序列,,最后在球星人臉數(shù)據(jù)庫中查找與之匹配的球星。目前騰訊多媒體實(shí)驗(yàn)室的方案可識別 500 多位人氣球星,。
現(xiàn)該功能已在數(shù)據(jù)萬象多個體育客戶案例中落地,,日均處理量持續(xù)攀升,大幅提升數(shù)據(jù)萬象客戶賽事周邊后期生產(chǎn)速率,。
影視精彩集錦
除了體育,,自研的智能剪輯還支持電視劇、動漫等影視場景,,可以根據(jù)用戶指定的人物,、動作、情感,、關(guān)鍵詞等信息自動生成所需集錦視頻,。
以人物向?yàn)槔脩糁恍枰峁?2~3 張某個人物的照片,,系統(tǒng)便可注冊對應(yīng)人物,,剪輯時指定需要剪輯的角色(或列表)即可生成人物集錦。再搭配音樂卡點(diǎn),,上熱門妥妥的,!
【人物向集錦】
線索集錦方面,用戶可以根據(jù)劇情內(nèi)容指定某個關(guān)鍵詞作為線索,,系統(tǒng)將自動檢索劇集中與此相關(guān)的內(nèi)容,,并生成關(guān)鍵詞集錦,打造全網(wǎng)最清晰的故事線,。
【線索詞集錦】
現(xiàn)該功能已獲得數(shù)據(jù)萬象體驗(yàn)館,、智能工具箱,、控制臺中超高點(diǎn)擊率,吸引眾多用戶關(guān)注使用,,此場景能夠根據(jù)用戶需求靈活調(diào)整集錦所需關(guān)鍵動作,、人物等,歡迎各位用戶前往測試,。
未來,,騰訊多媒體實(shí)驗(yàn)室將持續(xù)投入包括智能剪輯在內(nèi)的 AIGC 核心能力建設(shè),數(shù)據(jù)萬象負(fù)責(zé)人葉嘉梁表示道數(shù)據(jù)萬象將借助多媒體實(shí)驗(yàn)室在底層 AI 算法多年的積累和建設(shè),,結(jié)合自身對行業(yè)和業(yè)務(wù)的理解,,快速上線了能夠幫助客戶業(yè)務(wù)實(shí)現(xiàn)智能內(nèi)容生產(chǎn)的能力,豐富的算法也讓業(yè)務(wù)具備更好的多樣性和靈活性,。您可以前往數(shù)據(jù)萬象進(jìn)行相關(guān)能力體驗(yàn),,對存儲在對象存儲 COS 上的數(shù)據(jù)進(jìn)行創(chuàng)作。數(shù)據(jù)萬象將持續(xù)攜手多媒體實(shí)驗(yàn)室為廣大客戶提供視頻自動剪輯,、智能作曲,、音樂評分等更多智能化服務(wù),提升內(nèi)容生產(chǎn)和創(chuàng)作效率,。
更多演示內(nèi)容,,可參見公眾號“騰訊多媒體實(shí)驗(yàn)室”。
下一篇:售后寶獲得微軟 Azure OpenAI 服務(wù)授權(quán),,持續(xù)深耕客戶服務(wù)領(lǐng)域
隨便看看:
- [頭條]國泰航空:對三位涉事的空中服務(wù)員予以解聘
- [頭條]游戲和科技“難舍難分”
- [頭條]特斯拉啤酒來了:靈感來自 Cybertruck 的 Giga
- [頭條]浙江縉云:山區(qū)小縣何以問鼎制造業(yè)大獎
- [頭條]華為音樂發(fā)布最新進(jìn)展 引入更多內(nèi)容生態(tài)伙伴 深耕古典音樂與空
- [頭條]北京疾控提醒:保持健康生活方式,做自己健康第一責(zé)任人
- [頭條]上半年國家鐵路發(fā)送電煤7.77億噸 同比增長13.1%
- [頭條]2023亞布力中國企業(yè)家論壇,?石家莊峰會召開
- [頭條]神舟十六號飛行乘組亮相
- [頭條]2023廣州國際旅游展覽會開幕
相關(guān)推薦:
網(wǎng)友評論:
推薦使用友言,、多說、暢言(需備案后使用)等社會化評論插件
- 「主播健康護(hù)航計劃」杭州西湖圓滿落幕,!百余位主播及
- 從“城市小店”到“連鎖巨頭”:豬角豬腳飯大王的爆款
- 解鎖萌寵經(jīng)濟(jì)新生態(tài):抖音#萬物可愛計劃 如何用內(nèi)容
- 永州聯(lián)通高質(zhì)量網(wǎng)絡(luò)“守護(hù)”普利橋“二八”農(nóng)耕文化活
- 啟牛學(xué)堂攜手行業(yè)協(xié)會共推“消?;蹅鳌庇媱潱到y(tǒng)化布
- 萬事好通 南通好投 | 和府撈面:一筷煙火里的產(chǎn)業(yè)
- 十大乳鐵蛋白奶粉品牌,,選這款保證不踩雷
- 優(yōu)聯(lián)云購上新南美白對蝦,,新鮮速凍鎖鮮,家庭餐桌必備
- 喝草莓,,不倒霉,!四葉咖推出草莓系列新品,,讓云南精品
- 首家以漢字文化為主題的博物館將于3月30日開館!
- 「主播健康護(hù)航計劃」杭州西湖圓滿落幕,!百余位主播及
- 華熙國際趙燕引領(lǐng)“場館+”新風(fēng)尚 華熙LIVE·魚
- BCM小寵驚喜亮相2025深寵展,,引領(lǐng)異寵行業(yè)新風(fēng)
- 老成老火鍋
- 寵物兔健康有“膏”招:BCM化毛膏實(shí)力護(hù)佑
- 在恒安,我們都“恒”好
- 萬和電氣與金發(fā)科技攜手共建聯(lián)合實(shí)驗(yàn)室,,行業(yè)創(chuàng)新邁入
- 僑興商會:目標(biāo)項(xiàng)目順利完成,,再創(chuàng)2025新輝煌
- 解鎖萌寵經(jīng)濟(jì)新生態(tài):抖音#萬物可愛計劃 如何用內(nèi)容
- 春日踏青必備!健力寶“渴了么”電解質(zhì)水助你暢享活力