Oleh Varun Narayan HegdeInsinyur Utama di Amazon
4 September 2024
FinOps, kependekan dari Operasi Keuangan, adalah kerangka kerja yang berkembang yang bertujuan untuk organisasi yang mendukung untuk mengelola dan mengoptimalkan pengeluaran cloud mereka. Hal ini mendorong budaya kolaborasi antara tim keuangan, operasi, dan teknik untuk memastikan bahwa setiap dolar cloud yang dibelanjakan terlihat dan berkontribusi pada nilai bisnis. Hal ini sangat penting dalam sektor seperti layanan keuangan di mana pengelolaan biaya operasional sambil memastikan kepatuhan, keamanan, dan skalabilitas adalah yang terpenting.
Dalam industri jasa keuangan, ketergantungan pada komputasi awan bukan sekadar kemudahan, tetapi juga keharusan, terutama untuk mendukung aplikasi pembelajaran mesin (ML) yang memerlukan sumber daya komputasi yang signifikan. Beban kerja ML ini rumit dan mahal karena persyaratan data dan komputasi yang intensif. FinOps menyediakan pendekatan strategis untuk mengelola biaya ini secara efektif sambil mempertahankan kelincahan yang dibutuhkan untuk berinovasi dan menanggapi perubahan pasar.
Penyedia layanan cloud utama seperti AWS (Amazon Web Services), GCP (Google Cloud Platform), dan Azure memainkan peran penting dalam mendukung inisiatif ML di sektor keuangan. Mereka menawarkan berbagai alat dan layanan yang memungkinkan lembaga keuangan untuk menerapkan, mengelola, dan meningkatkan skala aplikasi secara global, memastikan bahwa mereka dapat memanfaatkan potensi penuh komputasi cloud untuk upaya yang digerakkan oleh ML dan AI.
Pelatihan model merupakan aspek mendasar dari pembelajaran mesin, yang melibatkan penggunaan kumpulan data besar untuk mengembangkan algoritme yang mampu membuat prediksi dengan akurasi tinggi. Proses ini tidak hanya membutuhkan banyak data tetapi juga menuntut komputasi, yang sering kali membutuhkan sumber daya cloud yang signifikan. Dalam industri jasa keuangan, akurasi model ini sangat penting karena sering kali memberikan informasi mengenai keputusan bisnis yang penting dan penilaian risiko.
Strategi FinOps yang efektif sangat penting untuk mengelola biaya besar yang terkait dengan pelatihan model di cloud. Berikut adalah beberapa pendekatan utama:
- Sumber Daya Komputasi yang Tepat Ukurannya: Sangat penting untuk mencocokkan sumber daya komputasi dengan kebutuhan spesifik beban kerja tanpa penyediaan yang berlebihan. Memanfaatkan jenis dan ukuran instans yang tepat dapat menghasilkan penghematan biaya yang substansial.
- Memilih Jenis Instansi yang Tepat: Berbagai jenis beban kerja mungkin mendapat manfaat dari berbagai jenis contoh cloud. Misalnya, beberapa mungkin lebih intensif CPU sementara yang lain mungkin memerlukan sumber daya GPU yang lebih baik. Memilih jenis contoh yang tepat berdasarkan beban kerja dapat mengoptimalkan biaya secara signifikan.
- Memanfaatkan Spot Instances atau Reserved Instances: Instansi spot dapat memberikan penghematan biaya untuk pekerjaan pelatihan yang fleksibel dalam hal waktu. Instansi yang dicadangkan menawarkan harga yang lebih rendah sebagai ganti komitmen untuk menggunakan jenis sumber daya tertentu selama periode tertentu, yang sesuai untuk beban kerja yang dapat diprediksi.
- Penggunaan Alat Penskalaan Otomatis dan Penganggaran: Penerapan penskalaan otomatis dapat membantu menyesuaikan penggunaan sumber daya sesuai dengan kebutuhan beban kerja, mencegah penggunaan berlebihan dan pengeluaran yang tidak perlu. Alat penganggaran dapat menetapkan batasan dan alarm untuk memastikan pengeluaran tidak melebihi anggaran yang direncanakan tanpa mengorbankan persyaratan beban kerja.
Dalam bidang layanan keuangan, Model Operations (ModelOps) merupakan bagian integral dari pengelolaan siklus hidup model pembelajaran mesin (ML) dalam lingkungan produksi. Proses ini sangat penting untuk memastikan penanganan data keuangan yang sensitif sekaligus mempertahankan ketersediaan tinggi, latensi rendah, dan kepatuhan terhadap standar regulasi yang ketat. Strategi FinOps tingkat lanjut dalam ModelOps diarahkan untuk mengoptimalkan alokasi sumber daya cloud, menggunakan komputasi tanpa server, kontainerisasi, dan arsitektur layanan mikro untuk meningkatkan skalabilitas, meningkatkan efisiensi sumber daya, dan mengurangi biaya overhead. Teknologi ini memungkinkan lembaga keuangan untuk menerapkan, mengelola, dan memantau model ML secara lebih efektif, memastikan kepatuhan terhadap regulasi dan efisiensi biaya operasional.
Untuk lebih meningkatkan efisiensi dan efektivitas biaya operasi ML, lembaga keuangan menerapkan metrik dan KPI terperinci yang berfokus pada kinerja dan efisiensi biaya penerapan ML. Membangun budaya kesadaran biaya dalam tim dan mempertahankan pemantauan dan penyesuaian operasi ML yang berkelanjutan dan ketat sangatlah penting. Strategi ini memastikan bahwa layanan keuangan tidak hanya mematuhi mandat kepatuhan tetapi juga memanfaatkan investasi ML mereka untuk hasil keuangan dan operasional yang optimal.
Dalam hal spesifikasi teknis, Bahasa Indonesia: AWSGCP, dan Azure menyediakan solusi yang disesuaikan untuk memfasilitasi proses ModelOps ini. AWS menawarkan AWS Cost Explorer dan AWS Compute Optimizer, yang membantu dalam pelacakan terperinci dan pengoptimalan sumber daya yang digunakan selama pelatihan dan penerapan model. Diskon penggunaan yang berkomitmen dari GCP dan kemampuan untuk menyesuaikan jenis mesin memungkinkan penggunaan sumber daya cloud yang lebih disesuaikan dan hemat biaya. Rangkaian Azure, termasuk Azure Cost Management dan Azure Advisor, menyediakan alat yang komprehensif untuk manajemen anggaran dan rekomendasi tentang peluang penghematan biaya. Alat-alat ini sangat penting dalam mengelola biaya yang terkait dengan tugas-tugas intensif komputasi dari pelatihan dan penerapan model, termasuk penyerapan data, transformasi, dan tuntutan komputasi dari pelatihan model iteratif dan inferensi waktu nyata. Dengan memanfaatkan layanan dan alat cloud ini, lembaga keuangan dapat menjaga keseimbangan antara manajemen biaya dan persyaratan kinerja yang kuat dari aplikasi yang digerakkan ML mereka.
Rekayasa data berfungsi sebagai fondasi penting dalam alur kerja pembelajaran mesin (ML), khususnya di sektor jasa keuangan yang taruhannya sangat tinggi. Proses ini melibatkan persiapan dan pemrosesan data yang cermat sebelum digunakan dalam pelatihan model ML. Inti dari rekayasa data terletak pada upaya memastikan integritas, skalabilitas, dan keamanan data. Mengingat sifat data keuangan yang sangat sensitif dan kerangka regulasi yang ketat yang mengaturnya, peran rekayasa data tidak hanya terbatas pada persiapan, tetapi juga memastikan bahwa proses penanganan data menjunjung standar kepatuhan dan keamanan tertinggi.
Dalam bidang FinOps, strategi rekayasa data yang efektif berfokus pada pengoptimalan biaya yang terkait dengan penyimpanan, pemrosesan, dan transfer data. Teknik seperti kompresi data, penerapan solusi penyimpanan berjenjang, dan pemanfaatan data lake yang hemat biaya digunakan untuk mengelola pengeluaran tanpa mengorbankan kualitas atau keamanan data. Penyedia layanan cloud seperti AWS, GCP, dan Biru langit menawarkan alat dan layanan rekayasa data khusus yang mendukung upaya pengoptimalan biaya ini. Platform ini menyediakan opsi yang kuat untuk mengelola jalur data, mengoptimalkan proses ETL (Ekstrak, Transformasi, Muat), dan menyimpan data dalam jumlah besar secara efisien, sehingga memungkinkan lembaga keuangan untuk meningkatkan praktik manajemen data mereka sekaligus menjaga biaya tetap terkendali.
Karena industri jasa keuangan terus mengadopsi pembelajaran mesin (ML) dan teknologi cloud, pentingnya FinOps tidak dapat dilebih-lebihkan. Integrasi praktik FinOps memastikan bahwa lembaga keuangan tidak hanya dapat memenuhi persyaratan operasional dan regulasi mereka, tetapi juga mencapai efisiensi biaya yang signifikan. Dengan menyelaraskan manajemen keuangan dengan operasi TI, lembaga dapat menavigasi kompleksitas biaya cloud dan alokasi sumber daya, sehingga mengoptimalkan investasi mereka dalam teknologi ML. Penyelarasan ini penting karena mendukung solusi yang dapat diskalakan, aman, dan hemat biaya yang mendorong keunggulan kompetitif dalam industri yang sangat teregulasi.
Ke depannya, evolusi FinOps akan memainkan peran penting dalam cara layanan keuangan beradaptasi dengan kemajuan teknologi dan perubahan regulasi. Inovasi berkelanjutan dalam layanan cloud dan aplikasi ML akan memerlukan strategi FinOps adaptif yang mendukung penerapan cepat dan manajemen sumber daya yang efisien. Lembaga keuangan yang berhasil mengintegrasikan praktik ini tidak hanya akan mengurangi biaya tetapi juga meningkatkan kemampuan mereka untuk memanfaatkan teknologi baru demi pengambilan keputusan yang lebih baik dan kepuasan pelanggan. Pengembangan dan penyempurnaan alat dan metodologi FinOps yang berkelanjutan akan sangat penting dalam mendukung tujuan ini, memastikan bahwa layanan keuangan tetap patuh dan sehat secara finansial dalam lanskap digital yang terus berkembang.
Biodata Penulis:
Varun Narayan Hegde adalah Kepala Insinyur di Amazon, tempat ia memimpin proyek-proyek inovatif dalam organisasi Pengalaman Konsumen Amazon Retail. Dengan keahliannya dalam pembelajaran mesin dan paten yang diberikan USPTO, ia telah berperan penting dalam mengembangkan sistem simulasi dan evaluasi model offline yang inovatif. Kepemimpinan Varun dalam desain dan pelaksanaan terperinci telah menghasilkan simulasi yang sukses terhadap lebih dari satu juta model sejak penemuan tersebut. Sebagai teknolog yang berpikiran maju, ia terus unggul dalam bidangnya, membentuk masa depan yang digerakkan oleh teknologi.
Profil LinkedIn Varun adalah https://www.linkedin.com/in/hegdevarun/