Paralel Processing

Iilmu komputasi adalah bidang ilmu yang mempunyai perhatian pada penyusunan model matematika dan teknik penyelesaian numerik serta penggunaan komputer untuk menganalisis dan memecahkan masalah-masalah ilmu (sains). Sedangkan arti dari komputasi itu sendiri adalah sebagai cara untuk menemukan pemecahan masalah dari data input dengan menggunakan suatu algoritma. Oleh karena itu komputasi dapat dikatakan sebagai suatu sub-bidang dari ilmu komputer dan matematika.

Pemrosesan paralel (parallel processing) adalah penggunakan lebih dari satu CPU untuk menjalankan sebuah program secara simultan. Idealnya, parallel processing membuat program berjalan lebih cepat karena semakin banyak CPU yang digunakan. Tetapi dalam praktek, seringkali sulit membagi program agar dapat dieksekusi oleh CPU yang berbea-beda tanpa berkaitan di antaranya.

Hubungan antara komputasi modern dengan pemrosesan paralel  yaitu untuk melakukan suatu komputasi dengan sangat cepat maka dibutuhkan beberapan processor ataupun CPU yang dihubungan satu sama lain secara paralel untuk melakukan komputasi secara bersama-sama untuk menyelesaikan suatu masalah, maka munculah istilah baru yang disebut Komputasi Paralel.

Komputasi paralel adalah salah satu teknik melakukan komputasi secara bersamaan dengan memanfaatkan beberapa komputer secara bersamaan. Biasanyadiperlukansaat kapasitas yang diperlukan sangat besar, baik karena harus mengolah data dalam jumlah besar ataupun karena tuntutan proses komputasi yang banyak. Untuk melakukan aneka jenis komputasi paralel ini diperlukan infrastruktur mesin paralel yang terdiri dari banyak komputer yang dihubungkan dengan jaringan dan mampu bekerja secara paralel untuk menyelesaikan satu masalah. Untuk itu diperlukan aneka perangkat lunak pendukung yang biasa disebut sebagai middleware yang berperan untuk mengatur distribusi pekerjaan antar node dalam satu mesin paralel. Selanjutnya pemakai harus membuat pemrograman parallel untuk merealisasikan komputasi. 

Pemrograman parallel adalah teknik pemrograman komputer yang memungkinkan eksekusi perintah/operasi secara bersamaan baik dalam komputer dengan satu(prosesor tunggal) ataupun banyak (prosesor ganda dengan mesin paralel) CPU. Tujuan utama dari pemrograman paralel adalah untuk meningkatkan performa komputasi. Semakin banyak hal yang bias dilakukan secara bersamaan (dalam waktu yang sama), semakin banyak pekerjaan yang bisa diselesaikan.