pengolahanparalel-

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelUmpan BalikPengolahan ParalelKuliah#2 TSK205 Sistem Digital - TA 2011/2012Eko Didik WidiantoTeknik Sistem Komputer - Universitas Diponegoro

LisensiTentang KuliahI Sebelumnya dibahas tentang:I Deskripsi, tujuan, sasaran dan materi kuliah TSK-617Pengolahan ParalelI Latar belakang perlunya riset dan teknik pengolahan paralel: kapasitas prosesor (Moore), manufacturability dan densitas powerI Umpan Balik: apa yang melatarbelakangi kenapa pengolahan paralel diperlukan?I Dalam kuliah ini, akan dibahas konsep pengolahan paralel:I Definisi dan terminologi pengolahan paralelI Pemrosesan serial vs paralelI Sumber-sumber daya komputer paralel beserta karakteristiknyaI Kebutuhan pengolahan paralel untuk computional scienceI Contoh aplikasi yang menggunakan sistem pengolahan paralel yang ada saat ini

I Taksonomi FlynnI Arsitektur Memori Paralel

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiKompetensi DasarI Setelah mempelajari bab ini, mahasiswa akan mampu:1. [C2] Menjelaskan karakteristik sistem paralel dan pengolahan paralel2. [C2] Menjelaskan sumber-sumber daya komputer paralel dan karakteristiknya3. [C2] Menjelaskan contoh sistem yang menggunakan pengolahan paralel dan menjabarkan faktor apa saja yang melatarbelakanginyaI AcknowledmentMateri dan gambar didapat dari:I Introduction to Parallel Computing di

ttstttrsr

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalel Umpan Balik Lisensi

I Link

I Website: tttsrI Email: [email protected] ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiBahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiDefinisi Pengolahan ParalelI Webopedia.com1I The simultaneous use of more than one CPU to execute a programI Wikipedia.com2I The simultaneous use of more than one CPU or processor core to execute a program or multiple computational threadsI Oxford Dictionary of ScienceI A technique that allows more than one process stream of activity to be running at any given moment in a computer system, hence processes can be executed in parallel. This means that two or more processors are active among a group of processes at any instantI Parallel computing: a form of computation in which many calculations are carried out simultaneously, operating on the principle that large problems can often be divided into smaller ones, which are then solved concurrently ("in

parallel")3

1 http://www.webopedia.com/TERM/P/parallel_processing.html2 http://en.wikipedia.org/wiki/Parallel_processing3 Almasi, G.S. and A. Gottlieb (1989). Highly Parallel Computing. Benjamin-Cummings publishers, Redwood City, CA

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiProcess, Thread, Multi-CPU

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalelUmpan BalikLisensi

(source:http://www.javamex.com/tutorials/threads/how_threads_work.shtml)BahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiPemrosesan Tunggal (Serial)I Dijalankan di komputer tunggal dengan 1 CPUI Problem dipecah dalam instruksi dengan eksekusi berurutan, hanya satu eksekusi dalam satu waktu

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiPemrosesan ParalelI Dijalankan menggunakan banyak CPUI Problem dipecah menjadi bagian yang dapat dikerjakan secara bersamaanI Tiap bagian dipecah menjadi instruksi terurutI Instruksi tiap bagian dieksekusi secara simultan di CPUberbeda

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiKarakteristik Pengolahan ParalelMempunyai kemampuan untuk:I Memecah problem ke dalam beberapa task yang dapat dikerjakan secara simultanI Menjalankan multi instruksi program dalam satu waktuI Menyelesaikan problem lebih cepat di multi sumber daya komputasi daripada sumber daya tunggal

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiSumber Daya Komputing Paralel


4 54 http://www.nersc.gov/nusers/resources/franklin/about.php5 http://en.wikipedia.org/wiki/Beowulf_%28computing%29BahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiSemesta adalah ParalelI Semesta bersifat paralel, sehingga model paralel memberikan hasil terbaik -> pengolahan paralelI proses fisik terjadi paralel: aliran fluida, pergerakan planet, pola cuaca, galaksiI proses sosial terjadi paralel: koloni semut, assembly lines, trafik

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiKebutuhan Pemrosesan: ComputationalScienceI Pemrosesan paralel merupakan the high end of computingAn important development in sciences is occurring at the intersection of computer science and the sciences that has the potential to have a profound impact on science. It is a leap from the application of computing . . . to the integration of computer science concepts, tools, and theorems into the very fabricof science. -Science 2020 Report, March 2006

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiFaktor PerubahanI Terus meningkatnya daya komputasi secara eksponensial-> simulasi menjadi pilar ketiga dari science, melengkapi teori dan eksperimenI Terus meningkatnya jumlah data eksperimen secare eksponensial -> teknik dan teknologi analisis data, visualisasi, jaringan dan kolaraborasi menjadi esensial dalam semua data aplikasi science

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiSimulasi: Pilar Ketiga dalam ScienceI Metode scientific dan rekayasa tradisional(1) Mengerjakan teori atau desain di atas kertas(2) Melakukan eksperimen atau membangun sistem


I KelemahanI Terlalu susah, terlalu mahal, terlalu lambat (menunggu evolusi galaksi), terlalu berbahaya (senjata, cuaca)I Paradigma komputasi:(3) menggunakan komputer untuk mensimulasi dan menganalisis fenomenaI Menggunakan hukum fisik dan metode numerik yang efisienI Menganalisis hasil simulasi dengan perangkat dan metode komputasionalData Intensive

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiPeta CMB


I Merekam jejak unik primordial melalui suhu dan polarisasiI Mengekstrak fluktuasi suhu uKelvin merupakan tantangan komputasi seriusContent-based Image Retrieval (KurtKeutzer)


I Aplikasi teknik computer vision untuk problem image retrieval: mencari gambar digital dalam database yang besarBahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiAlasan Menggunakan Pengolahan ParalelI Menghemat waktu dan biayaI Penggunaan lebih banyak resource untuk satu task akan mempercepat waktu pengerjaan, dengan potensi penghematan biayaI Cluster dapat dibangun dengan komponen komoditas dan murahI Mengerjakan problem yang lebih besarI Banyak problem tidak bisa dipecahkan dengan komputer tunggal, memori terbatas: Grand Challenge, web search engine yang memproses jutaan transaksi perdetikI Menyediakan concurrencyI Sumber daya pararel dapat melakukan banyak hal secara simultan. Contoh: access grid yang menyediakan jaringan kolaborasi global 6

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik Lisensi

6 http://www.accessgrid.orgAlasan Menggunakan Pengolahan Paralel(Cont.)I Menggunakan sumber daya non-lokalI Menggunakan sumber daya lewat jaringan/internet: BOINC, SETI@home, Folding@homeI Keterbatasan pengolahan serialI Kecepatan transmisi. Limit: kecepatan cahaya (30cm/ns), kabel tembaga (9cm/ns)I Batas miniaturisasi: teknologi pemrosesan ICI Batas ekonomis: biaya semakin mahal untuk membuat prosesor tunggal semakin cepatArsitektur komputer menggunakan paralelisme di level hardware untuk meningkatkan performansi:I Unit eksekusi multipleI Pipeline instruksiI Multi-core

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiDaya Listrik Terkontrol


I Pergeseran paradigmaI Old:Mempercepat frekuensi merupakan metode utama untuk meningkatkan performansi prosesorI New: Menambah paralellisme yang menjadi metode utamaBahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan Paralel Terminologi Pemrosesan Serial vsParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiBOINC: Voluntary ComputingI Berkeley Open Infrastructure for Network Computing(BOINC)7


I Active: 323,676 volunteers, 524,265 computersI 24-hour average: 5,744.07 TeraFLOPS7 http://boinc.berkeley.eduFolding@HomeI Menganalisa data dari protein folding, misfolding, dan related diseases8


I Active: Lebih dari 400rb CPUI 8,045 TeraFLOPS8 http://folding.stanford.edu/SETI@HomeI Search for Extraterrestrial Intelligence (SETI) 9I Download dan menganalisa data teleskop radionI 730 TFlops


http://setiathome.berkeley.edu/ss_graphics.php9 http://setiathome.berkeley.edu/Distributed ComputingI Cluster computer: Beowulf


http://en.wikipedia.org/wiki/File:Beowulf.jpgI Grid Computing: GlobusI Cloud Computing: Nimbus, Eucalyptus, OpenstackBahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiArsitektur von Neumann

@2012,Eko DidikWidianto

I Paper tentang requirement dasar dari komputer elektronik (1936)I Terdiri atas 4 komponen utama: 1) memori,2) unit kontrol, 3) aritmetic logic unit dan 4)input/outputI RAM (R/W) untuk menyimpan instruksi dan dataI Instruksi: data terkode yang memberitahu komputer apa yang harus dikerjakanI data: informasi yang digunakan oleh programI Unit kontrol mengambil instruksi/data dari memori, decode instruksi dan mengkoordinasikan operasiI ALU melakukan operasi aritmetikaI I/O interface ke operator

John von Neumann(1903-1957)

Pengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

BahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiTaksonomi FlynnI Klasifikasi arsitektur komputer (1966)I Membedakan arsitektur komputer multiprocesor berdasarkan dimensi instruksi dan data. Kemudian tiap dimensi dibagi menjadi single atau multiple

@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Michael J. Flynn(1903-1957)Single Instruction, Single Data (SISD)

@2012,Eko DidikWidiantoPengolahan Paralel

I Komputer serial(non-paralel)I Hanya satu instruksi yang dijalankan oleh CPU dalam satu siklus waktuI Hnaya satu data yang digunakan sebagain input dalam satu siklus waktuI Eksekusi deterministikI Contoh: PC single-core, mainframe generasi lama

SISD

Konsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiSingle Instruction, Multiple Data (SIMD)

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelI Tipe komputer paralelI Semua processing unit (PU) mengeksekusi instruksi yang sama dalam satu waktuI Tiap PU memproses dapat beroperasi dengan data yang berbeda

SIMD

Konsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

I Untuk problem spesial: pemrosesan grafikI Sinkronous dan eksekusi deterministikI Tipe: prosesor array, vector pipelineI Contoh: Komputer dengan GPUMultiple Instruction, Single Data (MISD)

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelI Data tunggal diolah oleh beberapa PUI Tiap PU mengolah data secara independenI Contoh: komputer experimen Carnigie Mellon (1971)

MISD


I Beberapa penggunaan:I Operasi pemfilteran frekuensi secara multiple dari sinyal tunggalI Penerapan algoritma kriptografi multipe untuk memecah satu pesan terkode (ciphertext)Multiple Instruction, Multiple Data (MIMD)

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelI Hampir semua komputer modern masuk kategori MIMD

I Tiap prosesor mungkin mengeksekusi instruksi yang berbedaI Tiap prosesor mungkin mengolah data yang berbeda

MIMD


I Eksekusi bisa sinkronous atau asinkron, deterministik atau non-deterministikI Eksekusi deterministik di sistem paralel menjadi objek risetI Contoh: multicore PC, cluster computer, grid computerTerminologiI Task adalah bagian-bagian kerja komputasional, bisa berupa program atau set instruksiI Parallel task adalah suatu task yang dapat dieksekusi oleh multi prosesorI Pengolahan paralel: penggunaan multi prosesor secara simultanI Cluster komputer: kombinasi prosesor/komputer komoditas sejenis untuk membangun sistem paralelI Symmetric Multi Processor (SMP): arsitektur multi prosesor yang sharing satu space alamat tunggal (shared memory computing)I Dikontrol oleh OS tunggalI Di multicore, arsitektur SMP diaplikasikan ke coreI Supercomputing: menggunakan mesin tercepat untuk menyelesaikan suatu problem besar

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiBahasanPengolahan ParalelTerminologiPemrosesan Serial vs ParalelKebutuhan Komputasi Benefit Pengolahan Paralel Aplikasi Pengolahan ParalelKonsep Pengolahan Paralel Arsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiArsitektur Memori Komputer ParalelArsitektur memori paralel:1. Shared memory: prosesor dapat mengakses semua memori sebagai space alamat global1.1 Uniform Memory Access (UMA)

1.2 Non-Uniform Memory Access (NUMA)

2. Distributed memory: prosesor mempunyai memori lokal sendiri. Inter-prosesor memori perlu networking3. Hybrid distributed-shared memory: menggunakan shared dan distributed

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiProcess, Thread, Multi-CPU

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensi

(source:http://www.javamex.com/tutorials/threads/how_threads_work.shtml)I Baca juga: Understanding Memory(http://www.ualberta.ca/CNS/RESEARCH/LinuxClusters/mem.html)I Alokasi memori: text, data (initialized), BSS (uninitialized), heap (dinamically) dan stackShared Memory (UMA)I Karakteristik: semua prosesor dapat mengakses semua memori sebagai ruang alamat globalI Multi prosesor dapat beroperasi secara independen namun sharing memoriI Perubahan di lokasi memori oleh satu prosesor dapat dilihat oleh prosesor lain

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiI Prosesor identik, misalnya mesin SMPI Upto 8 prosesorI Mempunyai akses dan waktu akses yang sama ke memoriI Kadang disebut CC-UMA (cachecoherent)I cache coherent: jika satu prosesor update suatu lokasi di memori, semua prosesor mengetahui update tsbI Koherensi dilakukan di level hardware

Shared Memory (UMA)

Shared Memory (NUMA)I Karakteristik: prosesor mempunyai bank alamat memori sendiriI Prosesor dapat mengakses memori lokal dengan cepat, memori remote lebih lambatI Meningkatkan throughput memori selama mengakses data lokalI Seringkali dibuat dengan menghubungkan secara fisik 2 atau lebih SMPI Satu SMP dapat mengakses memori secara langsung ke SMPlain NUMAI Tidak semua prosesor mempunyai waktu akses yang sama ke memoriI Akses memori lewat bus interconnect lebih lambatI Jika cache coherence dilakukan, disebut CC-NUMA

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiShared Memory: Kelebihan, KekuranganI Kelebihan:I Space alamat memori global menyediakan perspektif pemrograman user-friendly ke memoriI Sharing data antar task cepat dan uniform karena dekatnya memori ke CPUI Kekurangan:I Tidak scalable. Menambah CPU dapat meningkatkan trafik di jalur shared memory-CPU. Di cc-(N)UMA, pertambahan trafik berkaitan dengan manajemen cache/memoriI Programmer bertanggung jawab untuk sinkronisasi yang memastikan akses yang tepat ke memori globalI Akan bertambah semakin kompleks dan mahal seiring bertambahnya jumlah prosesor

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiDistributed MemoryI Tiap prosesor mempunyai memori lokal sendiriI Sehingga prosesor dapat beroperasi secara independenI Perubahan ke lokal memori tidakmembawa efek ke memori lainI Konsep cache coherence

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensitidak berlakuI Jika memerlukan interprosesor, tugas programmer secara eksplisit mendefinisikan bagaimana dan kapan data akan dikomunikasikan

DistributedDistributed MemoryI Kelebihan:I scalable jumlah prosesor dan ukuran memori dapat ditingkatkanI Tiap prosesor dapat mengakses memorinya tanpa interferensi dan overhead, seperti di koherensi cacheI Cost effective: dapat menggunakan PC komoditas, off-the-self processorI Kekurangan:I tugas programmer semakin kompleks terkait detail komunikasi dataI Mapping data struktur berbasis memori globlal bisa susah

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalelArsitektur Komputer Taksonomi Flynn Arsitektur Memori ParalelUmpan BalikLisensiHybrid MemoryI Terdiri dari arsitektur memori shared dan distributed

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelI Komponen memori shared biasanya mesin SMP koherenI Prosesor di mesin SMP mempunyai akses global ke memori mesin tersebutI Komponen distributed adalah jaringan SMP multipleI SMP hanya tahu memorinya sajaI Komunikasi jaringan diperlukan untuk memindahkan data dari satu SMP ke lainnya

Hybrid


I Trend ke depan menggunakan tipe arsitektur memori ini

Umpan BalikI Yang telah kita pelajari hari ini:

I Definisi pengolahan paralel, karakteristik dan sumber daya komputing paralelI Perbandingan antara pengolahan serial dan paralelI Pemrosesan Paralel diperlukan untuk simulasi yangcomputational-intensiveI Benefit dan aplikasi pengolahan paralelI Taksonomi Flynn: SISD, SIMD, MISD, dan MIMD

I Arsitektur memori paralel: shared, distributed, hybridI Yang akan kita pelajari di pertemuan berikutnya adalah model pemrograman paralel: shared memory (thread) dan distributed (message-passing)I Pelajari: ttsPrrPr

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalel Umpan Balik LisensiLisensiCreative Common Attribution-ShareAlike 3.0 Unported (CC BY-SA 3.0)I Anda bebas:I untuk Membagikan untuk menyalin, mendistribusikan, dan menyebarkan karya, danI untuk Remix untuk mengadaptasikan karyaI Di bawah persyaratan berikut:I Atribusi Anda harus memberikan atribusi karya sesuai dengan cara-cara yang diminta oleh pembuat karya tersebut atau pihak yang mengeluarkan lisensi.I Pembagian Serupa Jika Anda mengubah, menambah, atau membuat karya lain menggunakan karya ini, Anda hanya boleh menyebarkan karya tersebut hanya dengan lisensi yang sama, serupa, atau kompatibel.I Lihat: Creative Commons Attribution-ShareAlike 3.0Unported License

Pengolahan Paralel@2012,Eko DidikWidiantoPengolahan ParalelKonsep PengolahanParalel Umpan Balik Lisensi

Single

InstructionMultiple

InstructionSingle DataSISDMISDMultiple

DataSIMDMIMD

pengolahanparalel-

Documents