在研究與開發(fā)醫(yī)療設(shè)備算法的過程中，始終需要具有高端算力的專用 PC 來探索最先進(jìn)的算法。
并行計(jì)算平臺(tái)和編程模型 CUDA 的出現(xiàn)，推動(dòng)了 NVIDIA GPU 在許多醫(yī)療設(shè)備、醫(yī)療器械和模型中的集成，實(shí)現(xiàn)了高性能算法工作負(fù)載的軟件開發(fā)循環(huán)。如今，AI 已被應(yīng)用于醫(yī)學(xué)影像工作流程，并且自然而然地?cái)U(kuò)展到了其他使用醫(yī)學(xué)影像的領(lǐng)域，例如具有視頻或圖像采集功能的醫(yī)療設(shè)備等。為了將 AI 集成到醫(yī)療設(shè)備中，需要投入更多的計(jì)算資源來加快新功能的開發(fā)。
NVIDIA 正在推出 NVIDIA Clara AGX 開發(fā)套件來滿足這一需求，從而推動(dòng)針對(duì)醫(yī)療器械的高級(jí)算法和 AI 技術(shù)的研究。Clara AGX 開發(fā)套件包含：Jetson AGX Xavier、Mellanox Connect X-6 NIC、RTX 6000 GPU 和 HDMI 2.0 輸入。Clara AGX SDK 提供必要的 OS、驅(qū)動(dòng)程序和存儲(chǔ)庫、容器化運(yùn)行時(shí)，以及 AI 技術(shù)示例。這一硬件和軟件的組合創(chuàng)建了一個(gè)獨(dú)特的平臺(tái)，通過該平臺(tái)，醫(yī)療設(shè)備制造商、軟件開發(fā)者和醫(yī)學(xué)研究界能夠更輕松地將 AI 先進(jìn)技術(shù)應(yīng)用于醫(yī)療器械。
用于 AI 技術(shù)開發(fā)的可擴(kuò)展計(jì)算
Clara AGX 開發(fā)套件建立在 Jetson AGX Xavier 基礎(chǔ)之上，包含一個(gè)基于 Jetson 產(chǎn)品系列的豐富且多樣化存儲(chǔ)庫和工具的生態(tài)系統(tǒng)。Jetson AGX Xavier 模塊將運(yùn)行功率低至 10W、算力高達(dá) 32 TOPS 的 AI 自主機(jī)器變成現(xiàn)實(shí)。作為全球領(lǐng)先 AI 計(jì)算平臺(tái)的一部分，該模塊受益于 NVIDIA 豐富的 AI 工具和工作流，開發(fā)者可使用它快速訓(xùn)練和部署神經(jīng)網(wǎng)絡(luò)。Jetpack SDK 是一款用于構(gòu)建 AI 應(yīng)用的綜合解決方案，它通過標(biāo)準(zhǔn) Linux 操作系統(tǒng)、為主板組件提供支持的 BSP 以及對(duì) CUDA 的支持（并因此帶來了整個(gè) CUDA 加速生態(tài)系統(tǒng)），為 Clara AGX 開發(fā)套件提供支持。此外，Clara AGX SDK 包含用于構(gòu)建流數(shù)據(jù)處理流程的 Rivermax 和 DeepStream、支持通過 EGX 進(jìn)行部署的容器化運(yùn)行時(shí)，以及用于為特定用例建模的參考應(yīng)用。
雖然 Jetson 平臺(tái)在技術(shù)上非常適合產(chǎn)品化，但新一代算法的開發(fā)需要 NVIDIA 獨(dú)立 GPU 提供更多計(jì)算資源。高性能的 RTX GPU 能夠減少優(yōu)化代碼所需的時(shí)間，并且可以在不影響性能的情況下進(jìn)行算法實(shí)驗(yàn)。
Clara AGX 開發(fā)套件中包含 NVIDIA RTX 6000 GPU，其峰值性能超過 200 INT8 AI TOPS。RTX 6000 可以運(yùn)行最復(fù)雜、要求最高的 AI 應(yīng)用中的多個(gè)并發(fā)推理流程，從而促進(jìn)最新 AI 模型的研發(fā)。
當(dāng)研發(fā)完成且最終 AI 模型已準(zhǔn)備就緒時(shí)，開發(fā)者可以優(yōu)化這些模型，并將它們部署到一個(gè)完全可擴(kuò)展的架構(gòu)上。追求低功耗用例的開發(fā)者可以使用 Jetson 產(chǎn)品系列，該系列產(chǎn)品滿足了小型產(chǎn)品對(duì)功耗和尺寸要求。此外，開發(fā)者也可以在結(jié)合 Jetson 和 RTX GPU 的產(chǎn)品系統(tǒng)上，部署高性能用例。NVIDIA 正通過一套應(yīng)用軟件提供一個(gè)完整且可擴(kuò)展的產(chǎn)品系列。
適用于高帶寬傳感器的可擴(kuò)展連接
醫(yī)療器械以及許多其他嵌入式系統(tǒng)都需要通過 GPU Direct 或 RDMA 流在各類上游傳感器和 GPU 之間建立高帶寬連接。Clara AGX 開發(fā)套件讓客戶能夠通過兩種不同的媒介實(shí)現(xiàn)這類專用連接。
第一種是通過集成 NVIDIA Mellanox ConnectX-6 NIC 實(shí)現(xiàn)對(duì) 100G 以太網(wǎng)和 10G 以太網(wǎng)的支持。該先進(jìn)設(shè)備能夠以全線速將 GPU Direct 連接到 RTX 6000 GDDR DRAM。Clara AGX 開發(fā)套件可減輕網(wǎng)絡(luò)堆棧的負(fù)擔(dān)，從而使串流的傳感器數(shù)據(jù)包能夠?qū)崿F(xiàn)最高的吞吐量和性能，同時(shí)最大程度地減少對(duì) CPU 利用率的影響。
第二種是用戶可以采用兩個(gè)支持自定義 PCIe 卡或其它 NIC 的 PCIe Gen4x8 插槽。第一個(gè) PCIe 端口用于連接 NVIDIA Mellanox ConnectX-6 NIC 中的集成交換機(jī)。該端口支持將 RDMA 數(shù)據(jù)直接傳輸?shù)?RTX6000 GDDR DRAM 中，其用例包括具有多個(gè) 4k60 12G SDI 輸入的自定義視頻采集卡。第二個(gè) PCIe 端口用于直接連接 Jetson AGX Xavier 模塊。該端口可以連接外部主機(jī)或通過自定義卡實(shí)現(xiàn)專用輸出。
合作伙伴開發(fā)者計(jì)劃
NVIDIA 還為 Clara AGX 開發(fā)套件推出了合作伙伴開發(fā)者計(jì)劃，包含 NVIDIA 硬件和協(xié)作網(wǎng)絡(luò)。如欲進(jìn)一步了解如何獲取 Clara AGX 開發(fā)套件，請(qǐng)點(diǎn)擊鏈接進(jìn)行申請(qǐng)。
如欲了解有關(guān) Clara AGX 的更多信息，請(qǐng)觀看 Mathias Blake、Juha Tukkinen 和 Brian Feeley 在 NVIDIA GTC 2020 秋季站上所做的深入展示《構(gòu)建 AI 驅(qū)動(dòng)的醫(yī)療器械》。三位專家探討了 AI 革命將如何為醫(yī)療設(shè)備創(chuàng)造巨大價(jià)值，以及 Clara AGX 將如何助力這場(chǎng)變革。