Paralel işleme, bir bilgisayar sisteminin hesaplama hızını artırmak için sistemin eşzamanlı veri işleme görevlerini gerçekleştirmesini sağlayan bir teknikler sınıfı olarak tanımlanabilir.

Paralel işleme sistemi, daha hızlı yürütme süresi elde etmek için eşzamanlı veri işlemeyi gerçekleştirebilir. Örneğin CPU'nun ALU bileşeninde bir talimat işlenirken, bir sonraki talimat bellekten okunabilir.

Paralel işlemenin temel amacı, bilgisayarın işlem kapasitesini geliştirmek ve verimini, yani belirli bir zaman aralığında gerçekleştirilebilecek işlem miktarını artırmaktır.

Paralel bir işlem sistemi, aynı veya farklı işlemleri aynı anda gerçekleştiren çok sayıda işlevsel üniteye sahip olunarak elde edilebilir. Veriler çeşitli çoklu işlevsel birimler arasında dağıtılabilir.

Aşağıdaki şema, yürütme birimini paralel çalışan sekiz işlevsel birime ayırmanın olası bir yolunu göstermektedir.

Her fonksiyonel ünitede gerçekleştirilen işlem, diyagram aşağıdaki durumlarda her blokta gösterilir:

• Toplayıcı ve tamsayı çarpanı, tamsayı sayılarıyla aritmetik işlemi gerçekleştirir.
• Kayan nokta işlemleri paralel çalışan üç devreye ayrılmıştır.
• Mantık, kaydırma ve artırma işlemleri farklı veriler üzerinde eş zamanlı olarak gerçekleştirilebilir. Tüm birimler birbirinden bağımsız olduğundan, bir sayı artırılırken diğer bir sayı kaydırılabilir.