Rad AI Meningkatkan Pendapatan 10 Kali lipat Menggunakan Instans P4d Amazon EC2 Didukung oleh NVIDIA

Hampir 90 persen ahli radiologi AS beroperasi atau melebihi kapasitas, menurut studi Mayo Clinic. Rad AI membantu meringankan beban kerja mereka dengan melatih model machine learning (ML) untuk membaca dokumen terperinci dan secara otomatis merangkum hasil yang disesuaikan dengan bahasa ahli radiologi, yang memerintahkan dokter untuk mengidentifikasi penyakit dan menyusun rencana perawatan. Rad AI bekerja dengan 16 persen pasar radiologi AS, termasuk 6 dari 10 grup radiologi terbesar, dan ingin memperluas solusinya untuk melayani lebih banyak pelanggan. Untuk meningkatkan kecepatan inferensi ML dan menghasilkan kesimpulan secara langsung, perusahaan memilih untuk menggunakan Amazon Web Services (AWS).

Rad AI memigrasikan aplikasi ringkasan dokumennya yang berjalan di server GPU on-premise ke Instans P4d Amazon Elastic Compute Cloud (Amazon EC2) yang didukung oleh GPU NVIDIA A100 Tensor Core. Dengan men-deploy aplikasinya pada Instans P4d Amazon EC2, Rad AI secara signifikan meningkatkan waktu inferensi ML-nya, memberikan laporan yang lebih cepat dan lebih akurat kepada ahli radiologi dan meningkatkan kualitas perawatan pasien.

Rad AI adalah perusahaan rintisan software-as-a-service yang bertujuan untuk meningkatkan kualitas layanan kesehatan dengan merampingkan alur kerja radiologi. “Ahli radiologi cukup efisien, tetapi volume studi mereka sangat tinggi sehingga sering terjadi kelelahan,” kata Niven Shah, manajer pengembangan dan strategi bisnis di Rad AI. “Produk kami menggunakan kemajuan terbaru dalam pemrosesan bahasa alami untuk secara otomatis menghasilkan kesimpulan khusus untuk laporan radiologi, bersama dengan rekomendasi tindak lanjut berdasarkan pedoman nasional.”

Rad AI mengurangi jumlah kata yang didikte ahli radiologi hingga 30–35 persen per hari dan menghemat sekitar 1 jam per shift 9 jam. Produknya terkait dengan alur kerja yang ada dan beroperasi sebagai solusi tanpa klik. “Kami menciptakan Rad AI secara khusus untuk mengurangi kelelahan ahli radiologi, meningkatkan kualitas perawatan pasien, dan memastikan bahwa pasien kami mendapatkan tindak lanjut dan pengobatan yang tepat pada waktu yang tepat,” kata Dr. Jeff Chang, ahli radiologi dan salah satu pendiri di Rad AI. Perusahaan sebelumnya menggunakan Instans P3 Amazon EC2 untuk men-deploy aplikasi ML-nya tetapi menginginkan kinerja yang lebih tinggi dan kecepatan inferensi yang lebih cepat untuk melayani lebih banyak pelanggan. Rad AI melihat cara untuk memenuhi tujuannya dengan memigrasikan model ML ke Instans P4d Amazon EC2, yang didukung oleh GPU NVIDIA A100. 

Instans P4d Amazon EC2 menyediakan memori GPU 320 GB per instans dan merupakan yang pertama mendukung jaringan berkecepatan tinggi 400 Gbps di cloud. Kinerja yang tinggi dan latensi yang rendah menjadikannya ideal untuk memproses dokumen yang lebih besar dengan kecepatan yang lebih cepat. Menggunakan layanan AWS juga akan membantu Rad AI memfasilitasi kepatuhan HIPAA dan memenuhi persyaratan sertifikasi Sistem dan Kontrol Organisasi 2 Tipe II, merampingkan orientasi kelompok radiologi dan sistem kesehatan baru.

Rad AI menyelesaikan migrasi pada tahun 2021, meningkatkan kecepatan inferensi ML dan kinerja keseluruhannya. “Dengan bermigrasi ke Instans P4d Amazon EC2, kami meningkatkan kecepatan inferensi secara langsung sebesar 60 persen,” kata Ali Demirci, insinyur perangkat lunak senior di Rad AI. “Karena kami dapat membuat ringkasan secara langsung, solusi ini memberikan dampak langsung pada pengalaman pelanggan.” Rad AI telah mengalami peningkatan kinerja 136 persen dan throughput 11 persen lebih cepat dengan menggunakan Instans P4d Amazon EC2 untuk deployment berbasis cloud dibandingkan dengan yang on premise. Kecepatan yang lebih cepat, kinerja yang lebih baik, dan penskalaan cloud memungkinkan perusahaan rintisan untuk memberikan solusinya kepada lebih banyak pelanggan, bekerja dengan praktik pribadi yang lebih kecil serta sistem layanan kesehatan bernilai miliaran dolar.

Solusi Rad AI sekarang memberikan ringkasan laporan pemindaian CT dan MRI dalam 3 detik, bukan 10 detik seperti biasanya, dan ringkasan laporan x-ray dalam 0,7 detik dibandingkan yang sebelumnya 2,5 detik. Dengan melatih beberapa model ML-nya di Instans P4d Amazon EC2, Rad AI mengurangi durasi pelatihan sebesar 2,4 kali. Dengan peningkatan kecepatan inferensi, ahli radiologi sekarang dapat memberikan laporan lebih akurat dengan rekomendasi tindak lanjut yang sesuai kepada dokter dengan lebih cepat. Dokter kemudian dapat menggunakan laporan ini untuk mendiagnosis kondisi dan membuat rencana perawatan, yang pada gilirannya meningkatkan hasil pasien.

Rad AI menggunakan Amazon Elastic Container Service (Amazon ECS), layanan orkestrasi kontainer terkelola penuh, untuk men-deploy beberapa model ML per hari. “Mampu men-deploy secara terus-menerus menggunakan Amazon ECS memungkinkan kami untuk merespons umpan balik pelanggan dengan cepat,” kata Demirci. “Kami dapat mengubah model dengan mudah atau membuat perubahan segera sesuai kebutuhan. Tim ML kami dapat menyediakan instans dengan cepat dan otomatis, yang membantu menyederhanakan eksperimen pada peningkatan model.” Dengan memigrasikan inferensi ML-nya ke cloud, Rad AI juga menghilangkan kebutuhan untuk pengadaan dan penyediaan infrastruktur untuk pusat data on-premise. Sebaliknya, Rad AI mampu menyediakan instans sesuai permintaan, sehingga mengoptimalkan biaya operasinya.

Rad AI juga memilih untuk mengembangkan, melatih, dan men-deploy teknologi ML-nya menggunakan PyTorch, kerangka kerja ML sumber terbuka. PyTorch memungkinkan Rad AI untuk membongkar dan memasang kembali komponen alur kerja ML-nya untuk debugging sederhana dan eksperimen cepat dengan iterasi yang lebih baru dan lebih maju dari alur pelatihan ML-nya. Menggunakan PyTorch, tim dapat memberikan arsitektur model yang lebih kompleks dengan lebih sedikit waktu yang diinvestasikan dalam pengembangan dan iterasi.

Perusahaan juga meningkatkan layanannya di AWS, berkembang untuk melayani klien baru. “Saat Anda perlu men-deploy model ML besar seperti yang kami lakukan, dibutuhkan memori GPU yang signifikan,” kata Andriy Mulyar, insinyur ML di Rad AI. “Instans P4d Amazon EC2 hadir dengan memori bandwidth tinggi 40 GB per GPU dan dapat secara efektif memenuhi kebutuhan memori kami. Sekarang kami dapat menskalakan aplikasi ML kami sesuai permintaan tanpa perlu menyediakan perangkat keras fisik. Kami dapat menghasilkan output untuk pelanggan kami pada tingkat yang jauh lebih cepat, yang pada gilirannya meningkatkan kecepatan inovasi kami.” Karena Rad AI mampu meningkatkan skala untuk melayani lebih banyak pelanggan, perusahaan rintisan ini meningkatkan basis kliennya lebih dari 100 persen pada tahun 2021. Rad AI juga meningkatkan pendapatan berulang lebih dari 10 kali lipat pada tahun 2021, dibandingkan dengan tahun 2020.

Dengan bermigrasi ke Instans P4d Amazon EC2, Rad AI meningkatkan pendapatan, mempercepat kecepatan inovasi, dan menskalakan aplikasi ML dengan mulus, memberikan manfaat secara langsung kepada pelanggannya dan memperluas jangkauannya. Misalnya, Radiology Associates of North Texas, praktik radiologi swasta terbesar di Texas, memperluas layanan Rad AI ke 225 ahli radiologinya setelah menguji solusi yang didukung AWS perusahaan. Di masa mendatang, Rad AI berencana untuk lebih mengotomatiskan alur datanya di AWS dan akan meluncurkan produk baru yang digerakkan oleh ML untuk meningkatkan perawatan pasien.

Rad AI membangun solusi cepat dan berperforma tinggi dengan cepat menggunakan AWS untuk pengembangan dan deployment aplikasi ML. “Setiap kali Anda meminta bantuan dari tim AWS, Anda terhubung dengan orang yang berpengetahuan luas dan masalah dapat diselesaikan dengan sangat cepat,” kata Demirci. “Bekerja dengan tim AWS sangat bermanfaat bagi kami.”