204512/บรรยาย 13

---

จดบันทึกคำบรรยายโดย:

นายเกรียงไกร ลิ่มทอง   รหัส : 50653732

นายธีรวัฒน์ ตออำนวย   รหัส : 50653815

---

NP Completeness

NP : Non-deterministic Polynomial time ปัญหาที่เป็น NP เป็นปัญหาที่ไม่สามารถแก้ได้ภายใน polynomial time เป็นวิธีหนึ่งที่จะแสดงว่าปัญหาที่กล่าวถึงนั้นยาก แต่ก่อนที่จะกล่าวถึงปัญหาที่อยู่ใน NP Class จะกล่าวถึงปัญหาที่ไม่มีอัลกอริทึมใดแก้ได้ก่อนนั่นคือ ปัญหา Halting problem

  Note : ปัญหา Halting problem ไม่ใช่ปัญหาใน NP Class เพราะไม่สามารถแก้ได้

ปัญหา Halting Problem

Description : ให้โปรแกรม P และ input X ถามว่า P(x) ทำงานจบหรือไม่ จะพบว่าเราไม่สามารถออกแบบอัลกอริทึมที่แก้ปัญหานี้ได้ ซึ่งสามารถพิสูจน์โดย contradiction ได้ดังนี้

Proof : สมมติให้มีอัลกอริทึม Q ที่แก้ปัญหา Halting Problem ได้ โดยมี Q(program P, input X) จะ return True ถ้า P(x) halt และ return False เมื่อ P(x) ติด loop เพราะฉะนั้นเราจะสามารถสร้าง procedure Q' ที่มีอัลกอริทึมดังต่อไปนี้ได้

  Procedure Q'(program P)
     If Q(P, P) then
        loop forever
     Else
        halt

จาก procedure Q' พิจารณา Q'(Q') ว่า halt หรือไม่

Case1 : Q'(Q') halt
นั่นคือ Q(Q',Q') = False --> Q'(Q') = False คือ Q'(Q') ติด loop *Contradict
Case2 : Q'(Q') loop
นั่นคือ Q(Q',Q') = Ture --> Q'(Q') = True คือ Q'(Q') halt *Contradict

เกิด Contradiction จึงสรุปได้ว่าไม่สามารถสร้าง procedure Q' ได้ เพราะฉะนั้น สมมติฐานที่มีอัลกอริทึม Q ที่แก้ปัญหา Halting Problem ได้ ไม่เป็นจริง

  Note : ปัญหา Halting problem ถูกพิสูจน์โดย Alan Turing

ปัญหา Program Equivalence

Description : ให้โปรแกรม P1 และ P2 ถามว่า P1 และ P2 ให้ผลลัพธ์เหมือนกันในทุกๆ input หรือไม่ ในที่นี้เราจะพิสูจน์โดยวิธี Reduction จากปัญหา Halting Problem (HP) ไปสู่ปัญหา Program Equivalence (PE)

Proof : สมมติว่ามีอัลกอริทึม Q ที่แก้ปัญหา Program Equivalence ได้
ให้มี procedure HP(P,x) สำหรับแก้ปัญหา Halting Problem
- สร้าง program P' ที่ทำงานเหมือน P(x) แต่ไม่รับ input และไม่มี output แต่ก่อนจบพิมพ์ "done"
- สร้าง program P" ที่ไม่ทำอะไรพิมพ์ "done" อย่างเดียว
- ให้ procedure นี้ return Q(P',P")
เพราะเราสามารถบอกได้ว่า HP(P,x) ไม่สามารถแก้ได้ดังนั้น Q(P',P") ไม่สามารถแก้ได้ด้วยคือ reduction จาก HP ไป PE

Reduction

จะแสดงว่าปัญหา X ยาก ถ้าทราบว่าปัญหา Y ยาก จะสามารถบอกได้ว่าปัญหา X ยาก โดย ตั้งสมมติฐานว่าถ้าแก้ปัญหา X ได้จะแก้ปัญหา Y ได้ด้วย ถ้าสามารถพิสูจน์สมมติฐานนี้ว่าเป็นจริงได้ จะสามารถสรุปได้ว่า ปัญหา X แก้ไม่ได้ เพราะปัญหา Y แก้ไม่ได้ เป็นการพิสูจน์แบบ Reduction จาก Y ไป X

Decision Problem

Description : คือปัญหาที่ต้องการคำตอบเป็น Yes หรือ No

ปัญหา Decision Problem P สามารถนิยามใหม่ ด้วย Language P ซึ่งเป็นเซ็ตของ instance ที่ตอบ yes เช่น

Decision Problem

Prime : ให้จำนวนจริง X ถามว่า X เป็น prime หรือไม่
Shortest path : ให้หาว่ามี Shortest path จาก s ไป t ที่ยาวไม่เกิน p หรือไม่

Language

Prime : {3, 5, 7, 11, ...}
Shortest path : {...} (set ของ Shortest path จาก s ไป t ที่ยาวไม่เกิน p)

นิยาม : Problem คือกลุ่มของปัญหา Instance คือตัวปัญหาแต่ละตัว

มีปัญหา A กับ B จะกล่าวว่า A สามารถลดรูป (reducible) ไปยัง B ได้แบบ polynomial time
ถ้ามี function T ทำงานใน polynomial time ที่

$\forall instance\ x\in A\ ,\ T(x)\in B$

และ $\forall instance\ x\notin A\ ,\ T(x)\notin B$

หรือเขียนอีกอย่างหนึ่งได้ว่า $\ x\in A\ \Leftrightarrow \ T(x)\in B$

เขียนแทนด้วย

${\mathit {A}}\leq {\mathit {B}}$

ถ้าต้องการวัดประสิทธิภาพของ $A$ ว่าทำงานเป็น polynomail time ไหม และทราบว่า B ทำงานใน polynomail time ให้หาว่ามี T ที่ทำงานใน polynomail time และเป็นไปตามข้อกำหนดด้านบนไหม แสดงว่า A ทำงานได้ใน polynomail time และเขียนแทนด้วย ${\mathit {A}}\leq _{p}{\mathit {B}}$

ปัญหา Satisfiability (SAT)

นิยาม : CNF formula คือนิพจน์ทางตรรกศาสตร์ที่เขียนให้อยู่ในรูปของการ AND กันของ Clause ที่เป็นการ OR กับของตัวแปรหรือนิเสธของตัวแปร
ตัวอย่างเช่น

$(X_{1}\lor X_{2})\land (X_{3}\lor X_{2}\lor \neg X_{1})\land (\neg X_{3}\lor \neg X_{2}\lor X_{1}\lor X_{4})$

ปัญหา SAT คือ กำหนด CNF formula ${\boldsymbol {\phi }}$ ให้ถามว่า มีวิธีกำหนดค่าให้กับตัวแปรต่างๆ ใน ${\boldsymbol {\phi }}$ ที่ทำให้ ${\boldsymbol {\phi }}$ เป็นจริงหรือไม่

  Note : Clause ที่เป็นการ OR กับของตัวแปรหรือนิเสธของตัวแปร เรียกว่า Disjunction ตัวอย่างเช่น $(X_{1}\lor X_{2})$

ปัญหา 3-Satisfiability (3-SAT)

รับค่า CNF Formula ${\boldsymbol {\phi }}$ ที่แต่ละ clause มีตัวแปร $\leq$ 3 ตัว ถามว่าทำให้ ${\boldsymbol {\phi }}$ เป็นจริงได้หรือไม่ ?

กรณี $3-SAT\leq _{p}SAT$

ในกรณีนี้เป็นจริงอยู่แล้วเพราะ 3-SAT เป็นกรณีเฉพาะของ SAT แต่เราต้องการพิสูจน์ว่า

$SAT\leq _{p}3-SAT$

plan: แสดงว่าสำหรับ CNF ${\boldsymbol {\phi }}$ ใดๆ มีวิธีการสร้าง ${\boldsymbol {\psi }}$ ที่เป็น 3-CNF ที่

ถ้า ${\boldsymbol {\phi }}\in SAT,{\boldsymbol {\psi }}\in 3-SAT$

และถ้า${\boldsymbol {\phi }}\notin SAT,{\boldsymbol {\psi }}\notin 3-SAT$

ในเวลา Polynomial time
ตัวอย่างที่ 1

${\boldsymbol {\phi }}=(X_{1}\lor X_{2}\lor \neg X_{3}\lor X_{4})$

ให้ใช้วิธีการเพิ่มตัวแปร $Z_{1}$ จะเปลี่ยนไปอยู่ในรูป

${\boldsymbol {\psi }}=(X_{1}\lor X_{2}\lor Z_{1})\land (\neg X_{3}\lor X_{4}\lor \neg Z_{1})$

ตัวอย่างที่ 2

${\boldsymbol {\phi }}=(X_{1}\lor X_{2}\lor \neg X_{3}\lor X_{4}\lor \neg X_{5})$

ให้ใช้วิธีการเพิ่มตัวแปร $Z_{1},Z_{2}$ จะเปลี่ยนไปอยู่ในรูป

${\boldsymbol {\psi }}=(X_{1}\lor X_{2}\lor \neg Z_{1})\land (Z_{1}\lor \neg X_{3}\lor \neg Z_{2})\land (Z_{2}\lor X_{4}\lor \neg X_{5})$

  Note : การเติมตัวแปร Z จะต้องเติมแล้วทำให้ค่าความจริงของ ${\boldsymbol {\phi }}$ equivalence กับค่าความจริงของ ${\boldsymbol {\psi }}$

ปัญหา Independent Set

นิยาม ให้ Undirected graph G = (V,E) จะกล่าวว่า $I\subseteq V$ เป็น Independent Set ถ้าทุกๆ คู่ของโหนด $U,V\subseteq I$ ไม่มีเส้นเชื่อมกัน

ปัญหา Independent set ให้กราฟ G = (V,E) และ integer k, มี Independent set I ใน G ที่ $|I|\geq k$ หรือไม่ ?
เราสามารถลดรูปปัญหา 3-SAT ไปเป็นปัญหา Independent set ได้

$3-SAT\leq _{p}$Independent set
ให้ 3-CNF Formular ที่ประกอบด้วย clauses $C_{1},C_{2},...,C_{m}$ จะสร้างกราฟ G ดังนี้

• พิจารณา clause C₁ สร้างโหนด V₁₁,V₁₂,V₁₃ สำหรับแต่ละตัวแปรหรือนิเสธของตัวแปรใน C₁
  
• เพิ่มเส้นเชื่อม (V₁₁,V₁₂),(V₁₁,V₁₃),(V₁₃,V₁₁)
  
• สำหรับโหนดที่แทนตัวแปรกับนิเสธของตัวแปรเดียวกับเพิ่มเส้นเชื่อมระหว่างโหนดเหล่านี้
  
  

$(X_{1}\lor X_{2}\lor X_{3})\land (\neg X_{1}\lor X_{2}\lor \neg X_{4})\land (X_{4}\lor \neg X_{3}\lor \neg X_{2})$

ถ้า ${\boldsymbol {\phi }}\in 3-SAT$ จะมี independence set ขนาด m ใน G

ถ้ามี independence set ขนาด m ใน G $\Rightarrow {\boldsymbol {\phi }}\in 3-SAT$

Class NP (Non-deterministic Polynomial time)

ปัญหา L จะอยู่ใน $\mathbb {N} \mathbb {P}$ ถ้ามี polynomail time algorithm V ที่ $\forall x\in L$ มี certificate P ที่ $\left|P\right|=poly\left(\left|x\right|\right)$ และ V(x,p) = 1
แล้ว $\forall x\in L$, $V\left(x,P\right)=1$ และ $\forall x\notin L$, $V\left(x,P\right)=0$
สรุป ปัญหา NP คือกลุ่มปัญหาที่สามารถตรวจคำตอบได้ภายใน polynomial time ซึ่งปัญหาง่ายๆ ก็อยู่ใน NP ด้วย
ปัญหา NP-Complete : ปัญหา $X\in$NP-Complete ถ้าสำหรับทุกปัญหา $Y\in NP$ แล้ว $Y\leq _{p}X$
Cook-Lavin Theorem -> Proof ว่า SAT เป็น NP-Complete

$SAT\leq _{p}3-SAT\leq _{p}Independentset$

สรุป ทั้ง 3-SAT และ independent set เป็น NP-Complete

  Note : Steps ในการแสดงว่าปัญหา X เป็น NP-Complete คือ 

   1. Proof ว่า $X\in NP$ 2. Proof ว่ามีปัญหา Y ที่เป็น NP-Complete ที่ $Y\leq _{p}X$

ปัญหา Vertex Cover

เซต $\mathbf {C}$ เป็น Vertex Corver ของกราฟ $\mathbf {G} =(\mathbf {V} ,\mathbf {E} )$ ถ้า $C\subseteq V$ และทุกๆ edge $(U,V)\in E,U\in C$ หรือ $V\in C$
ปัญหา Vertex Corver จะให้กราฟ $\mathbf {G}$, integer k ถามว่า $\mathbf {G}$ มี vertex corver ที่มีขนาด $\leq$ k หรือไม่ ?<br\>

• Independent set $\leq _{p}$ Vertex Corver<br\>
  • Lemma พิจารณากราฟ $\mathbf {G} =(\mathbf {V} ,\mathbf {E} ),I\subseteq V$ เป็น Independent Set
    

(รูปภาพ)
รับกราฟ $\mathbf {G}$ ถามว่ามี independent set $\leq$ k ? สร้าง instance ของ Vertex Corver ที่มีกราฟ $\mathbf {G}$ ถามว่าใน $\mathbf {G}$ มี Vertex Corver ขนาด n-k หรือไม่ ? เมื่อ n = จำนวนโหนดใน $\mathbf {G}$<br\>
Vertex Corver เป็น NP Complete เนื่องจากสามารถตรวจได้ว่ากราฟมี Vertex Corver ขนาดไม่เกิน k โดยใช้ Certificate เป็น Vertex Corver นั้น $\Rightarrow VC\in NP$

ปัญหา 3-Color

ให้กราฟ $\mathbf {G}$ ต้องการกำหนดสีให้กับแต่ละโหนด โดยที่คู่ของโหนดที่มีเส้นเชื่อมถึงกันห้ามใช้สีเดียวกัน สามารถทำได้โดยใช้สี $\leq$ 3 สีหรือไม่ ?

จะแสดงว่า 3-Color เป็น NP Complete
1. แสดงว่า $3-Color\in NP$

ใช้การกำหนดสีให้กับแต่ละโหนดเป็น Certificate ตรวจว่า

1) ใช้สีไม่เกิน 3 สี

2)ไม่มี edge เติมโหนดที่มีปัญหาทำได้ polynomial time

ซึ่งสามารถทำได้ใน polynomial time

2. แสดงว่า $3-Color\leq _{p}3-SAT$

กำหนดโหนด 3 โหนดแทนสี 3 สี จากนั้นสร้างกราฟดังนี้

ถ้าให้ clause $X_{1}\lor \neg X_{2}\lor X_{3}$ ต้องสร้างกราฟให้มีตัวใดตัวหนึ่งเป็นจริงและอีก 2 ตัวเป็น false ได้กราฟดังนี้

กราฟนี้จะบังคับให้ต้องมีตัวใดตัวหนึ่งเป็น True นั่นคือ $3-Color\leq _{p}3-SAT$