<em>iOS</em> 上的音频开发 今年,由于Clubhouse和Tiya的示范效应,语聊房产品大火,音频的开发技术备受开发者的关注。来自融云的音视频研发高级工程师姜春雨,多年专注于移动端和音视频领域的技术研发,他分享了《<em>iO
2021-05-20 13:31:40
2021年5月15日,融雲X-Meetup技術沙龍第三站續航上海。本場沙龍聚焦「音視訊技術新方向」,由融雲音視訊研發高階工程師姜春雨、時光機器人創始人兼CEO徐晶、融雲IM研發中心高階工程師劉佳、學而思網校架構師李亞龍,和資深音視訊技術專家慄偉,五位技術大咖出任演講嘉賓,他們以時下熱門應用場景為視角,從技術實踐出發,與開發者們交流分享了關於音視訊技術的新觀察。
iOS 上的音訊開發
今年,由於Clubhouse和Tiya的示範效應,語聊房產品大火,音訊的開發技術備受開發者的關注。來自融雲的音視訊研發高階工程師姜春雨,多年專注於移動端和音視訊領域的技術研發,他分享了《iOS 音訊裝置開發 - Core Audio》的主題內容。
融雲音視訊研發高階工程師姜春雨發表演講
姜春雨認為:移動端音訊處理的難點在於聲音美化、變聲、實時高音質和場景玩法多樣化。單從iOS裝置來說,要突破這些難點,離不開iOS所提供的Audio Unit,它是一項強大靈活的音訊處理技術,支援混合、均衡、格式轉換和實時輸入/輸出,用於錄製、播放、離線渲染和實時對話。
融雲SDK以Audio Unit為基礎,構建了長音效、短音效等多個功能模組,最終在音訊裝置上完成混音輸出。在場景化實踐中,姜春雨以音樂語聊房和百人超大會議室兩個典型場景為例,分享了融雲SDK的技術開發優化方案。比如,音樂語聊房注重高音質、美聲變聲,以舒適噪音為好,開發者要根據這些需求進行演算法調優;而超大會議室的優化則要求做到服務端智慧發流、多人聲音同時出現可以智慧選擇會議發言人的聲音。
姜春雨總結道:Audio Unit是一個強大的音訊處理框架,音訊處理要基於Audio Unit框架構建內容,並且要在音訊處理內容上不斷打磨優化。未來,融雲音視訊SDK還將不斷基於不同場景需要開發新的功能,持續優化音訊產品,為開發者提供更好的解決方案。
構建低延遲高可靠的信令系統
融雲作為網際網路通訊雲賽道的領先廠商,2020年在業界率先提出「IM+RTC+PUSH」的整體通訊解決方案。融雲RTC喚起使用者的通道就是依賴於IM的SDK信令,因此,本次融雲的IM研發中心高階工程師劉佳,分享了《構建低延遲高可靠信令系統的探索與實踐》,幫助開發者更好地瞭解融雲IM如何協同RTC,提供高可靠的通訊能力。
融雲IM研發中心高階工程師劉佳
劉佳介紹,高可靠音視訊信令系統的構建在IM信令系統設計時,首先要進行服務分層,包括接入層、內部服務和資料儲存的分層。而拆分原則要根據業務差異和服務物件的不同,拆分為API和 CMP,整體做到可監控、可維護。其次,是要搭建完整的監控體系,通過視覺化的圖表,監看網路的效能情況,及時處理系統瓶頸。
對於低延遲信令系統的實現,劉佳分享道,融雲不僅利用全球加速網路,降低網路延遲,還基於融雲自有通訊協議降低資料傳輸量,利用快取機制,提高了服務的業務處理速度。並且,劉佳以快取設計為例,說明通過一致性hash提高快取命中率、高效利用CPU的處理能力、實施非同步儲存等,也都是實現低延遲系統設計的要旨。
基於這些設計要點,劉佳展示了海量併發使用者場景下的語聊房系統架構,為開發者提供了乾貨解決方案。同時,他還總結出融雲現有的音視訊整體服務架構的三大優勢:第一,信令服務與媒體服務解藕,兩個服務之間也不需要狀態同步;第二,媒體服務專注通訊,信令服務專注能力;第三,部署簡單,方便進行全球部署媒體服務。
直播系統架構設計滿足使用者對實時性的需求
本場沙龍中,音視訊直播場景也是一個重點話題。深耕網際網路音視訊12年,在直播領域積累了豐富實戰經驗的拾光機器人公司創始人兼 CEO徐晶,通過他的《網際網路直播快速實戰》,分享了基於直播答題場景的架構設計,尤其是幾個關鍵技術點和應對策略,以及如何保證直播中的視訊和音訊質量,都做出了詳細的講解。
沙龍中,專注於線上教育的學而思網校架構師李亞龍,還針對教育低延時大班的直播場景,為開發者帶來了關於《線上教育直播系統架構升級》的分享。他著重從網校視訊技術的發展、網校大班直播系統、網校公益直播課、低延遲直播探索這四個方面的設計要點,進行了分析講解。對於專注線上教育的開發者而言,具有普遍的示範意義。
此外,資深音視訊技術專家的慄偉,發表了《使用WebRTC構建實時線上課堂》的演講。慄偉曾任職於中科院計算所、CC視訊,任職期間利用WebRTC技術開發了直播、線上課堂、視訊會議等商業產品,併發使用者數達到500萬。他還曾主筆撰寫了 《WebRTC技術詳解:從0到1構建多人視訊會議系統》,在該領域有多年實踐經驗,對WebRTC有非常深入的研究,他的實踐分享也讓開發者們獲益匪淺。
結語
在本次沙龍中,五位講師的分享,其共性特點在於:他們都基於當下所關注熱門場景展開話題。由此可見,應用場景才是「探討音視訊技術新方向」的基礎,而越熱門的場景往往越是代表著這個領域的發展潛力更大,因此也就越需要通過新技術、新產品加以承載。
隨著5G的進一步落地,網路頻寬、網路質量的不斷優化,音視訊通訊無論在使用量級上,還是使用場景上,都會出現更多可能。對於開發者而言,只有及早儲備,儘可能多地掌握新技術,關注新方向,才能贏在當下,贏在未來。
相關文章
<em>iOS</em> 上的音频开发 今年,由于Clubhouse和Tiya的示范效应,语聊房产品大火,音频的开发技术备受开发者的关注。来自融云的音视频研发高级工程师姜春雨,多年专注于移动端和音视频领域的技术研发,他分享了《<em>iO
2021-05-20 13:31:40
昨天,“微信拍一拍新增炸一炸功能”冲上微博热搜。5月17日,<em>iOS</em>版微信更新至8.0.6版本 其中,在微信“拍一拍”的基础上 新增了“炸一炸”功能 引起网友热议 不仅能“放炸弹”,还能“放烟花”“炸一炸”如何设置?「
2021-05-20 13:31:26
侧面的橙色底色,白色图形的设计,让每一个产品特性均能够一一展示,虽然设计简单,但是一个都不能少。IPX5防水级别,200毫安时电池容量,HFI音质,兼容ios、<em>安卓</em>、windows system等99%的设备。支持双耳通话降噪,music的音
2021-05-20 13:31:16
当前众多手机厂家纷纷效仿苹果环保政策取消标配充电头,充电配件厂的春天也到来了。家里还在用的手机比较多,其中不乏上探功率天花板的<em>安卓</em>旗舰,也买了超大功率的氮化镓充电头来搭配使用,但依旧不够用,包含五福一
2021-05-20 13:31:05
江浙沪周边的酒店民宿最近国内大热,风景可观,设计独特,往期有不少推荐可参考。这次仍然是一家黄山新开的国牌野奢酒店【黄山·<em>安卓</em>梅达】,风声越大价格越高也越多人会关注究竟是真正的秘境还是智商税。当30万亩
2021-05-20 13:30:56
疫情当中出现了很多新场景,比如在线教育、办公等等,这里需要注意几个问题,第一个是监督问题,第二脊椎问题,哪怕给孩子一个<em>IPAD</em>学习,也要低着头,对于脊椎来讲是有损伤的。而投屏能很好解决这些问题,远程办公肯定也是
2021-05-20 13:30:47