Bài giảng Giải thuật nâng cao: Quy hoạch động - Ngô Quốc Việt

QUY HOẠCH ĐỘNG TS. NGÔ QUỐC VIỆT 2015 Nội dung 1. Giới thiệu 2. Giải quyết một số bài toán bằng quy hoạch động. • Minh họa bài toán ba lô 0-1 3. Bài tập 4. DP cho Sequence Alignment 5. Hỏi đáp. 2 Giới thiệu • Quy hoạch động (dynamic programming) nhằm giải quyết bài toán tìm: • Trong đó, u là biến (một hay nhiều chiều), g(u) là hàm lượng giá, U là tập điều kiện ràng buộc. • Là thuật giải dạng bottom-up. Nghĩa là các bài toán “con” (không phải được chia từ bài toán lớn theo dạng chia để trị) được giải trước, và tổng hợp để ra kết quả của bài toán lớn. 3 So sánh giữa chia để trị và DP DP: lời giải con phụ thuộc  Chia để trị: lời giải con độc thuật giải luỹ thừa lập. 4 Các bước giải quyết • Xây dựng lời giải cho từng bài toán nhỏ. • Xây dựng công thức hồi quy nhằm xác định lời giải ở các bước sau. • Để tránh độ phức tạp luỹ thừa  lưu trữ các lời giải con vào bảng tra (để không phải giải lại như đệ quy). 5 Minh hoạ DP với bài toán Knapsack • DỮ LIỆU: n item • wi = cân nặng của item i • vi = giá trị của item i • W = sức chứa của knapsack • GIẢI PHÁP: tìm tập con S các item sao cho trọng lượng không vươt quá W • MỤC TIÊU: tìm cực đại giá trị của S 6 Bài toán Knapsack • Nghĩa là tìm: tập con S sao cho với • Được gọi là bài toán 0-1 Knapsack. • Chú ý: tìm cực đại theo giá trị thay vì theo trọng lượng hay kích thước của balô. 7 Thuật giải đơn giản • Sắp xếp các items theo “price per pound” vi/wi • Lấy từng item theo thứ tự này bỏ vào balô, nếu vẫn còn bỏ được (chú ý đến điều kiện ràng buộc). • Sinh viên hãy đánh giá thuật giải này (có tìm được KQ tối ưu không?) 8 Sử dụng DP cho Knapsack 0-1 • Minh hoạ kết quả khác biệt giữa thuật giải đơn giản (tham lam) và DP 9 Sử dụng DP cho Knapsack 0-1 • Đặt 푲[풋] là giá trị tối ưu của các item chứa trong ba lô kích thước 풋 (< 푾). • Yêu cầu cuối cùng cần tìm là K[M]. • Để tìm K[W, n], cần xác định các lời giải con bao gồm 푖 (0 < 푖 < 푛) item đầu tiên cho ba lô có kích thước (0 < 푗 < 푊). 10 Sử dụng DP cho Knapsack 0-1 • Ký hiệu các lời giải con là: 퐾[푗, 푖]. • Xét mảng hai chiều 푲[ퟎ. . 푾, ퟎ. . 풏], trong đó • 푲[풋, 풊] là giá trị tối ưu của các item trong giỏ có kích thước j, chỉ sử dụng các item 1,,i. • Nhận xét: 푲[풋, ퟎ] = ퟎ (không có item để lấy) • Nhận xét 푲[ퟎ, 풊] = ퟎ (kích thước balô bằng 0) 11 Sử dụng DP cho Knapsack 0-1 • Công thức tính K[j, i] được xác định bởi các lời giải con như sau  K[ j,i 1] K[ j,i]  max K[ j  w ,i 1] v  i i • Trường hợp đặc biệt, nếu wi > W (kích thước item i lớn hơn cả kích thước ba lô, thì K[ j,i]  K[ j,i 1] 12 Sử dụng DP cho Knapsack 0-1 • Giả sử đã tìm được K[j,i-1], hỏi cách tìm K[j, i]  Trả lời câu hỏi là có nên lấy item i bỏ vô balô (và có thể lấy các item khác ra cho có chỗ) không? • Nghĩa là chọn giữa • 푲[ 풋 − 풘풊, 풊 − ퟏ] + 풗풊 (sử dụng item i) • 푲[ 풋풊, 풊 − ퟏ] (không sử dụng item i) 13 Sử dụng DP cho Knapsack 0-1 K[ j,0] = 0 K[ j,i ] = max( K[ j-wi,i-1] +vi , K[ j,i-1] ) nếu j  wi K[ j,i ] = K[ j, i-1 ] nếu j < wi Công thức hồi quy trong thuật giải DP cho bài toán ba lô 0-1 14 Bảng kết quả ba lô 0-1 Hình minh hoạ từ dưới lên trên, cột biểu diễn kích thước ba lô, hàng biều diễn số lượng item 15 Bảng kết quả ba lô 0-1 16 Bảng kết quả ba lô 0-1 • Cần giữ lại lời giải con nào đã chọn (để còn biết là các item nào trong ba lô) 17 Bảng kết quả ba lô 0-1 • Theo hình trên, chúng ta sẽ ghi kết quả vào ma trận từ bottom-up, trái-phải 18 Bảng kết quả ba lô 0-1 • Theo vết chúng ta sẽ biết được các item trong ba lô. • Kết quả: item 8, 5, 4, 2. 19 Thuật giải cho bài toán ba lô 0-1 for j  0 to m do K[ j,0 ]  0 for i  1 to n do for j  0 to n K[ j,i ] K[ j,i-1 ] if j  wi and vi+K[ j-wi,i-1 ] > K[ j,i-1] then K[ j,i ] vi+K[ j-wi,i-1 ] 20 Thuật giải cho bài toán ba lô 0-1 21 Thuật giải cho bài toán ba lô 0-1 Thuật giải output các item có trong ba lô for j  0 to m do K[ j,0 ]  0 for i  1 to n do for j  0 to m K[ j,i ]  K[ j,i-1 ] Get [ j,i]  false if j  wi and vi+K[ j-wi,i-1 ] > K[ j,i] then K[ j,i ] vi+K[ j-wi,i-1 ] Get [ j,i ]  true j  M for i  n downto 1 do if Get[ j,I ] then print(i); j j-wi 22 Ví dụ minh hoạ ba lô 0-1 23 Phát triển vấn đề ba lô 0-1 • Giải quyết ra sao nếu trọng lượng hay kích thước (ba lô và item) là số thực (và có thể giá trị cũng là số thực). Xét trường hợp giá trị nguyên trước. • Xét L[0..S, 0..n], trong đó L[j, i] là trọng lượng (hay kích thước) tối thiểu của các item (chỉ dùng các item 1, ..i) với tổng giá trị >= j trong ba lô. • S = tổng giá trị của tất cả item. 24 Phát triển vấn đề ba lô 0-1 L[ j,0 ] = 0 L[ 0,i ] = ? L[ j,i ] = min ( L[j,i-1] , L[j-vi,i-1] + wi ) if j v  i Chọn item i L[ j-vi , i-1] + wi Không chọn item i L[ j,i-1] 25 Phát triển vấn đề ba lô 0-1 for j 0 to S do L[ j,0 ] 0 for i 0 to n do for j 0 to S do L[ j,i ] = L[ j,i-1] if j vi and L[ j-vi,i-1 ] + wi < L[ j,i ] then L[ j,i ]  L [ j-vi, i-1 ] + wi 26 Bài tập ba lô 0-1 1. Hãy xây dựng bảng kết quả ba lô 0-1 với các đầu vào như sau Item Kích thước (w ) Giá trị (v ) • W = 17 i i 1 1 3 2 3 6 3 4 17 4 7 19 5 9 21 6 10 27 2. Điều gì xảy ra nếu các item không theo thứ tự tăng như trên. 27 Một số vấn đề giải quyết với DP • Cho hai chuỗi: xây dựng thuật giải xác định chuỗi giống nhau dài nhất của hai chuỗi đã cho (xem tài liệu) • Xác định mức độ tương tự của hai chuỗi (ứng dụng trong: kiểm tra từ, từ điển web, computational biology. 28 Một số vấn đề giải quyết với DP Bài toán Sequence Alignment • Giải quyết vấn đề sequence alignment trong computational biology 29 Một số vấn đề giải quyết với DP Bài toán Sequence Alignment • Input: 2 chuỗi X=x1x2..xM, và Y=y1y2..yN. • Ký hiệu: {1, 2,..,M}, và {1, 2,..,N} là vị trí  2 chuỗi. • Matching: tập các cặp vị trí (i, j) sao cho mỗi item xuất hiện tối đa trong 1 cặp. • Alignment: matching sao cho không có crossing, nghĩa là. • Mục tiêu: tìm alignment sao cho cost nhỏ nhất. 30 Một số vấn đề giải quyết với DP Bài toán tìm cực tiểu lỗi nhỏ nhất • Cho N điểm trong mặt phẳng hai chiều , tìm đường thẳng y = ax+b sao cho cực tiểu lỗi Lỗi đạt cực tiểu khi thoả 31 Một số vấn đề giải quyết với DP Bài toán tìm cực tiểu lỗi nhỏ nhất 3. Cho n điểm trong mặt phẳng hai chiều , tìm các đoạn thẳng (không phải một đường thẳng) sao cho cực tiểu lỗi (miễn thi 1 sinh viên) • Cực tiểu tổng của các tổng lỗi bình phương E trên từng đoạn thẳng. • Cực tiểu L số đoạn thẳng. Hàm định dạng vấn đề E  cL,c  0 Đặt OPT(j)= minimum cost của các điểm p1, p2, ..., pj. e(i, j)= lỗi cực tiểu của các điểm pi, pi+1,.., pj 32 Sequence Alignment AGGCTATCACCTGACCTCCAGGCCGATGCCC TAGCTATCACGACCGCGGTCGATTTGCCCGAC -AGGCTATCACCTGACCTCCAGGCCGA--TGCCC--- TAG-CTATCAC--GACCGC--GGTCGATTTGCCCGAC • Định nghĩa: Cho hai chuỗi x = x1x2...xM, y = y1y2yN, an alignment is an assignment of gaps to positions • 0,, N in x, and 0,, N in y, so as to line up each letter in one sequence with either a letter, or a gap • in the other sequence Giải thuật nâng cao-Lý thuyết số 33