Bài giảng Chương trình dịch - Bài 4: Dùng DFA để phân tích từ vựng - Trương Xuân Nam

CHƯƠNG TRÌNH DỊCH
Bài 4: Dùng DFA để phân tích từ vựng
Nội dung
1. Bộ phân tích từ vựng cho ngôn ngữ A
2. Automat hữu hạn (FA)
1. Đồ thị chuyển (TD)
2. Automat hữu hạn không đơn định (NFA)
3. Automat hữu hạn đơn định (DFA)
3. Chuyển đổi biểu thức chính quy sang DFA
1. Chuyển đổi từ biểu thức chính quy sang NFA
2. Chuyển đổi từ NFA sang DFA
3. DFA tối ưu cho phân tích từ vựng
4. Bộ phân tích từ vựng dựa trên DFA
5. Bài tập
TRƯƠNG XUÂN NAM 2
Bộ phân tích từ vựng cho ngôn 
ngữ A
Phần 1
TRƯƠNG XUÂN NAM 3
Ngôn ngữ A
Viết bộ PTTV cho một ngôn ngữ lập trình đơn giản giúp 
người sử dụng thực hiện các phép toán số
1. Mỗi lệnh viết trên 1 dòng
2. Lệnh bao giờ cũng có dạng = 
3. là một tên riêng, không cần khai báo trước, 
giống quy cách tên biến thông dụng, biến luôn là số
4. theo quy cách biểu thức số học, có thể gồm
 Số nguyên, số thực, biến
 Lời gọi hàm toán học thông dụng: sqrt, log, exp, power,
 Các phép toán thông dụng + - * / %
 Các cặp ngoặc tròn
TRƯƠNG XUÂN NAM 4
Bộ PTTV đơn giản (mã giả C#)
// chứa thông tin về một từ tố
class Word {
public int wordType; // chứa từ loại của từ
public string wordContent; // chứa nội dung của từ
}
// bộ phân tích từ vựng
class PTTV {
// phân tích chuỗi S thành dãy các từ tố
public List process(string S) {  }
// lấy ra từ tố tiếp theo
Word getNextWord() {  }
}
TRƯƠNG XUÂN NAM 5
Bộ PTTV cho ngôn ngữ A
using System;
using System.Collections.Generic;
// định nghĩa các từ loại của bộ PTTV
enum WordType {
TYPE_EOF, // loại kết thúc đầu vào
TYPE_ERROR, // loại đầu vào lỗi
TYPE_SPACE, // dấu trống, tab,...
TYPE_VAR, // tên biến
TYPE_INTEGER, // số nguyên
TYPE_OPERATOR, // phép toán
TYPE_PARETHESIS // ngoặc
}
TRƯƠNG XUÂN NAM 6
Bộ PTTV cho ngôn ngữ A
// lớp chứa thông tin của 1 từ
class Word {
public WordType wordType; // chứa từ loại của từ
public string wordContent; // chứa nội dung của từ
public Word(WordType t, string c) {
wordType = t; wordContent = c;
}
}
// lớp automata thực hiện PTTV
class PTTV {
string input;
int pos;
TRƯƠNG XUÂN NAM 7
Bộ PTTV cho ngôn ngữ A
public List process(string a) {
List list = new List();
pos = 0;
do {
Word x = getNextWord();
list.Add(x);
if (x.wordType == WordType.TYPE_EOF) break;
if (x.wordType == WordType.TYPE_ERROR) break;
pos += x.wordContent.Length;
} while (true);
return list;
}
TRƯƠNG XUÂN NAM 8
Bộ PTTV cho ngôn ngữ A
// lấy ra từ tiếp theo
Word getNextWord() {
Word x = new Word(WordType.TYPE_EOF, "");
if (pos >= input.Length) return x;
x = nextIsSpace();
if (x != null) return x;
x = nextIsOperator();
if (x != null) return x;
...
x = new Word(WordType.TYPE_ERROR, "");
return x;
}
TRƯƠNG XUÂN NAM 9
Bộ PTTV cho ngôn ngữ A
// từ tiếp theo có phải kí hiệu trống, tab,...?
Word nextIsSpace() {
if (input[pos]==' ') return new Word(WordType.TYPE_SPACE, " ");
return null;
}
// từ tiếp theo có phải kí hiệu phép toán?
Word nextIsOperator() {
if ((input[pos]=='+') || (input[pos]=='-') ||
(input[pos]=='*') || (input[pos]=='/') || (input[pos]=='%'))
return new Word(WordType.TYPE_OPERATOR, "" + input[pos]);
return null;
}
}
TRƯƠNG XUÂN NAM 10
Bộ PTTV cho ngôn ngữ A
// hàm chính thử nghiệm bộ PTTV
class MyApp {
public static void Main() {
PTTV scanner = new PTTV();
List x = scanner.process("=+1");
foreach (Word w in x)
Console.WriteLine("{0}: {1}", w.wordType, w.wordContent);
}
}
TRƯƠNG XUÂN NAM 11
Automat hữu hạn (FA)
Phần 2
TRƯƠNG XUÂN NAM 12
Automat hữu hạn (FA)
 Nhận xét về bộ PTTV đơn giản ở phần trước:
 Cấu trúc chương trình đơn giản, dễ hiểu
 Dễ mở rộng nếu bổ sung các từ loại mới
 Hoạt động chậm, mỗi từ loại được thử đoán nhận một 
lần; trường hợp tệ nhất (có lỗi) có độ phức tạp cao vì 
phải thử tất cả các từ loại
 Trong phần tiếp theo, chúng ta sẽ thảo luận một 
thiết kế mới khắc phục vấn đề tốc độ dựa trên ý 
tưởng xây dựng bộ đoán nhận chỉ với một lần thử 
duy nhất
TRƯƠNG XUÂN NAM 13
Automat hữu hạn (FA)
 Automat hữu hạn (finite-state automaton) dùng để đoán 
nhận lớp ngôn ngữ chính quy (regular expression)
 Cấu trúc cơ học của FA gồm:
 Bảng chuyển
 Đầu đọc
 Xâu vào
 Quá trình hoạt động:
 Bắt đầu từ trạng thái xuất phát
 Đọc từ kí tự từ xâu vào
 Quan sát bảng chuyển để biết sẽ chuyển sang trạng thái nào
 Dừng khi kết thúc xâu vào và trả về trạng thái đoán nhận
TRƯƠNG XUÂN NAM 14
Automat 
hữu hạn Xâu vào
Bảng
chuyển
Automat hữu hạn (FA)
 Hoạt động của automat hữu hạn rất đơn giản:
 Mỗi bước đọc một kí tự từ đầu vào
 Từ trạng thái bắt đầu, dựa trên kí tự đầu vào biến đổi 
trạng thái, quá trình này kết thúc khi đến trạng thái dừng
 Trạng thái dừng sẽ quyết định từ loại mà FA đoán nhận 
được (bao gồm cả lỗi)
 Dễ thấy độ phức tạp tính toán của thuật toán đoán 
nhận là tuyến tính theo độ dài của dữ liệu đầu vào 
(vì mỗi bước chuyển nhận một kí tự đầu vào)
 Vấn đề chính của automat hữu hạn: làm thế nào xây 
dựng được bảng chuyển hiệu quả
TRƯƠNG XUÂN NAM 15
Automat hữu hạn (FA)
 Automat hữu hạn được chia làm 2 loại:
 Automat hữu hạn đơn định (deterministic finite 
automata – DFA)
• Với một kí hiệu đầu vào, chỉ có thể chuyển sang tối đa một 
trạng thái thái tiếp theo (hoặc dừng và báo lỗi)
• Không chấp nhận kí hiệu đầu vào là 
 Automat hữu hạn không đơn định (non-deterministic 
finite automata – NFA)
• Chấp nhận kí hiệu đầu vào là 
• Với một kí hiệu đầu vào, có thể chuyển sang nhiều trạng thái 
tiếp theo
 Hai loại automat này tương đương về khả năng đoán 
nhận ngôn ngữ và có thể chuyển đổi qua lại lẫn nhau
TRƯƠNG XUÂN NAM 16
Đồ thị chuyển (TD - transition 
diagram)
Phần 2.1
TRƯƠNG XUÂN NAM 17
Đồ thị chuyển biểu diễn tên
Đồ thị chuyển
Đồ thị chuyển là phương pháp thường sử dụng để mô 
tả một cách trực quan sơ đồ hoạt động của các 
automat hữu hạn
TRƯƠNG XUÂN NAM 18
Đồ thị chuyển biểu diễn 
một loại số thực
Đồ thị chuyển biểu diễn số 
nguyên dương
Các kí hiệu của đồ thị chuyển
 Trạng thái: vẽ bởi vòng tròn, kí hiệu ghi bên trong 
là “tên” (số hiệu) của trạng thái đó
 Trạng thái kết thúc: vòng tròn kép
 Trạng thái kết thúc có đánh dấu sao (*): ký tự cuối cùng 
không thuộc vào từ tố được đoán nhận
 Bước chuyển: vẽ bởi mũi tên nối tới trạng thái sẽ 
chuyển đến, kí hiệu ghi bên cạnh là “nhãn” của 
bước chuyển
 Nhãn ghi các kí tự hoặc loại kí tự cho phép thực hiện 
bước chuyển
 Nhãn “start”: xác định trạng thái bắt đầu của automat
TRƯƠNG XUÂN NAM 19
Đồ thị chuyển của một NFA
Xét ngôn ngữ chính quy L = aa* | b | ab
Ta có thể xây dựng đồ thị chuyển nhận biết L có các 
đặc trưng của NFA:
 Từ một trạng thái có thể có nhiều bước chuyển tương tự
 Chứa kí hiệu  ở nhãn
TRƯƠNG XUÂN NAM 20
0
1
2
3
4
5
a
b
a


start
a
Đồ thị chuyển của một DFA
Cũng vẫn với ngôn ngữ L = aa* | b | ab
Ta có thể xây dựng đồ thị chuyển nhận biết L có các 
đặc trưng của DFA:
 Từ một trạng thái không thể có các bước chuyển tương 
tự nhau (nhãn giống nhau)
 Nhãn không chứa kí hiệu 
TRƯƠNG XUÂN NAM 21
0
2
3
a
b
start
a
b
1
a
Automat hữu hạn không đơn 
định (NFA)
Phần 2.2
TRƯƠNG XUÂN NAM 22
Mô hình toán học của NFA
 Một automat hữu hạn không đơn định (NFA) là mô 
hình toán học gồm:
1. Một tập trạng thái S
2. Một tập ký hiệu vào Σ (bảng ký hiệu vào)
3. Một hàm chuyển move ánh xạ cặp (trạng thái, ký hiệu) 
tới tập các trạng thái
4. Một trạng thái s0 đặc biệt gọi là trạng thái bắt đầu
(hoặc trạng thái khởi tạo)
5. Một tập các trạng thái F đặc biệt gọi là các trạng thái 
chấp thuận (hay các trạng thái kết thúc)
 NFA không có ràng buộc nào về các thành phần
TRƯƠNG XUÂN NAM 23
Cài đặt NFA trên máy tính
 Có nhiều cách mã hóa NFA trên máy tính, phương 
pháp được sử dụng nhiều nhất là dùng bảng chuyển
 Bảng chuyển là một ma trận 2 chiều:
 Các dòng thể hiện trạng thái của NFA
 Các cột thể hiện kí hiệu đầu vào
 Bảng ghi các trạng thái chuyển tới
 Hai cản trở lớn khi mã hóa NFA:
 Xử lý kí hiệu  thế nào?
 Xử lý như thế nào khi có nhiều phương án dịch chuyển 
ứng với một kí hiệu đầu vào?
TRƯƠNG XUÂN NAM 24
Automat hữu hạn đơn định 
(DFA)
Phần 2.3
TRƯƠNG XUÂN NAM 25
Automat hữu hạn đơn định
 Lớp automat hữu hạn đơn định (DFA) là lớp các
NFA thỏa mãn các ràng buộc sau:
 Không có trạng thái nào có dịch chuyển 
 Với mỗi trạng thái s và ký hiệu đầu vào a, có nhiều nhất 
một cạnh nhãn a rời khỏi s
• Nói cách khác, hàm move(s,a) là hàm đơn trị, đây chính là ý 
nghĩa của chữ “đơn định” trong DFA
 Như vậy ta thấy DFA là NFA nhưng đã loại bỏ đi 
những chi tiết khó lập trình nhất
 Một điều khá đặc biệt, khả năng đoán nhận của DFA và 
NFA là tương đương
TRƯƠNG XUÂN NAM 26
Mô phỏng hoạt động của DFA
// đầu vào: chuỗi x kết thúc bởi kí hiệu eof
// đầu ra: yes nếu chấp thuận x, no nếu ngược lại
s := s0;
c := nextchar(x);
while c ≠ eof do
s := move(s, c);
c := nextchar(x);
end;
if s ∈ F then return “yes”;
else return “no”;
TRƯƠNG XUÂN NAM 27
Chuyển đổi biểu thức chính 
quy sang DFA
Phần 3
TRƯƠNG XUÂN NAM 28
Chuyển đổi BTCQ sang DFA
 Như vậy nếu có một DFA phù hợp, ta có thể xây 
dựng bộ PTTV chỉ với độ phức tạp tuyến tính một 
cách dễ dàng
 Hầu hết các định nghĩa từ vựng đều viết dưới dạng 
biểu thức chính quy (RE – regular expression), vậy 
làm thế nào có được DFA từ các RE đã có?
 Trong phần sau ta sẽ xem xét các bước chuyển đổi 
từ các RE thành DFA thông qua việc xây dựng NFA 
tương đương và tối ưu trạng thái
TRƯƠNG XUÂN NAM 29
Chuyển đổi từ biểu thức chính 
quy sang NFA
Phần 3.1
TRƯƠNG XUÂN NAM 30
Thuật toán Thompson
 Kenneth "Ken" Thompson (đồng tác giả của hệ điều 
hành Unix, ngôn ngữ lập trình Go), năm 1968, đã 
phát triển một thuật toán (Thompson’s construction 
algorithm) để chuyển đổi từ biểu thức chính quy 
sang NFA, thuật toán gồm 3 bước:
1. Phân rã biểu thức chính quy thành các thành phần cơ 
bản (loại bỏ các yếu tố khó xây dựng NFA)
2. Xây dựng NFA cho các thành phần cơ bản
3. Ghép các NFA trong bước 2 thành một NFA lớn
 Ngược lại, thuật toán Kleene (Kleene's algorithm) 
chuyển từ NFA (DFA) thành biểu thức chính quy
TRƯƠNG XUÂN NAM 31
Thuật toán Thompson
 Bước 1: đơn giản hóa biểu thức chính quy
 M+ được chuyển đổi thành M M*
 M? được chuyển đổi thành M | 
 Như vậy kết thúc bước này biểu thức chính quy chỉ gồm 
các kí hiệu, phép chọn (|), phép nối (viết liên tiếp) và 
phép lặp (*)
 Bước 2: xây dựng NFA cho các kí hiệu cơ bản
 NFA cho kí hiệu rỗng
 NFA cho kí hiệu thường
TRƯƠNG XUÂN NAM 32
S F
ε
S F
a
Thuật toán Thompson
 Bước 3: ghép các NFA theo quy tắc chuyển đổi 
phép toán sau đây
 Phép nối AB
 Phép chọn A | B
 Phép lặp A*
TRƯƠNG XUÂN NAM 33
S FA S’ B
ε εε ε
S F
A
B
ε
ε
ε
ε
S F
A
ε
εε
ε
S’
Ví dụ: dựng NFA cho (x | y)*
 Tạo NFA cho (x | y)
 Đặt NFA trên vào phép lặp
TRƯƠNG XUÂN NAM 34
A
H
ε
εε
εB C
D E
x
y
S
F
G
ε
ε ε
ε
A F
ε
εε
εB C
D E
x
y
Chuyển đổi từ NFA sang DFA
Phần 3.2
TRƯƠNG XUÂN NAM 35
Chuyển đổi từ NFA sang DFA
 Chuyển đổi từ NFA sang DFA gồm hai bài toán:
1. Loại bỏ các bước chuyển chấp nhận kí hiệu đầu vào ε
2. Loại bỏ các trạng thái đa định
 Input: một NFA (gọi là N)
 Output: một DFA (gọi là D) đoán nhận cùng ngôn 
ngữ với N. Xây dựng D, gồm 2 bước:
 Xây dựng tập trạng thái của D
 Xây dựng các hàm chuyển move(s,a) đơn trị
 Ý tưởng: quan sát hoạt động của N, một trạng thái 
của D là tập các trạng thái của N, một bước chuyển 
của D là một bước chuyển của tập trạng thái của N
TRƯƠNG XUÂN NAM 36
Ví dụ 1
 Xét NFA đoán nhận a+b*
 Quan sát hoạt động của NFA
 Trạng thái bắt đầu chuyển sang {1}
 {1} nhận kí hiệu a chuyển sang {1,2}
 {1,2} nhận kí hiệu a chuyển sang {1,2}
 {1,2} nhận kí hiệu b chuyển sang {2}
 {2} nhận b chuyển sang {2}
 Ta được DFA tương đương:
 Đổi tên trạng thái (cho dễ nhìn)
TRƯƠNG XUÂN NAM 37
1 2a
a b
start
1 2
a
a 1,2start
b
b
1 3
a
a
2start
b
b
Ví dụ 2
 Xét NFA đoán nhận a*b*
 Quan sát hoạt động của NFA
 Trạng thái bắt đầu chuyển sang {1,2,3}
 {1,2,3} nhận kí hiệu a chuyển sang {2,3}
 {1,2,3} nhận kí hiệu b chuyển sang {3}
 {2,3} nhận kí hiệu a chuyển sang {2,3}
 {2,3} nhận kí hiệu b chuyển sang {3}
 {3} nhận kí hiệu b chuyển sang {3}
 Ta được DFA tương đương:
TRƯƠNG XUÂN NAM 38
2 3
a b
start
1
ε ε
2,3 3
a b
start
1,2,3
a b
b
Ví dụ 3
 Trạng thái bắt đầu chuyển 
sang {1,2,3,5}, đặt tên 
trạng thái này là A
 move(A, a) = {3,6}, đặt 
tên trạng thái này là B
 move(A, b) = {4}
 move(B, a) = {6}
 move(B, b) = {4}
 move({6}, a) = {6}
TRƯƠNG XUÂN NAM 39
1
2
3
start
a
a
b
a
4
65
ε
ε
ε
a
b
b
A B
4
6
a
astart
DFA tối ưu cho phân tích từ 
vựng
Phần 3.3
TRƯƠNG XUÂN NAM 40
Số lượng trạng thái của DFA
 DFA đơn giản hơn NFA trong lập trình, nhưng lại 
đối mặt với vấn đề khác, đó là số lượng trạng thái 
của DFA có thể nhiều hơn NFA một cách đáng kể
 Một NFA có n trạng thái có thể chuyển đổi thành một 
DFA có tới 2n trạng thái (trường hợp tệ nhất)
 Kích thước bảng chuyển (hàm move) có liên quan 
chặt chẽ tới số lượng trạng thái, vì thế việc giảm số 
trạng thái của DFA là quan trọng trong thực tế
 Một cách logic (?) thì nếu NFA có ít trạng thái thì sẽ 
sinh DFA ít trạng thái hơn, vì thế ta có thể bắt đầu 
tối ưu ngay từ NFA
TRƯƠNG XUÂN NAM 41
Tối ưu NFA
 Không có nhiều cơ hội cho tối 
ưu NFA, ý tưởng dễ thấy nhất 
là hợp các trạng thái cùng trên 
một chu trình 
 Trong NFA trên: trạng thái 2 và 
3 có thể ghép đôi
 Trong NFA dưới:
 Trạng thái 1 và 4 có thể ghép đôi
 Sửa đổi hàm move(2, c) = 4 
thành move(2, c) = 1
TRƯƠNG XUÂN NAM 42
2
4
a
c
start
1
3
ε
ε ε
ε
ε ε
2
4
b
start
1
a
ε
c
ε
Tối ưu DFA
 Ý tưởng: ghép các trạng thái tương đương (hàm 
move giống nhau)
 Ví dụ: xét DFA đoán nhận b*ab*a
 Ta thấy 3 và 4 tương đương:
 move(3, a) = 5
 move(3, b) = 4
 move(4, a) = 5
 move(4, b) = 4
 Ghép 3 và 4 thành trạng thái 3
TRƯƠNG XUÂN NAM 43
2
5
b
start
1
3
b
a
b
a
a
4
b
a
2
5
b
start
1
b
a
a
a
3
b
Tối ưu DFA
 Với DFA mới, ta thấy 1 và 2 tương đương:
 move(1, a) = 3
 move(1, b) = 2
 move(2, a) = 3
 move(2, b) = 2
 Ghép trạng thái 1 và 2 thành trạng thái 1, ta được 
trạng thái tối ưu sau
 Chú ý: chưa có thuật giải tối ưu cho bài toán này
TRƯƠNG XUÂN NAM 44
2
5
b
start
1
b
a
a
a
3
b
5
b
start
1
a a
3
b
Tối ưu bảng chuyển
 Tổ chức bảng chuyển thường sử dụng ma trận
 Ưu điểm: đơn giản, dễ hiểu, tốc độ cao
 Nhược điểm: kích thước lớn, dễ nhầm lẫn khi mã hóa
 Có một số chiến thuật tối ưu bảng chuyển, chủ yếu 
dựa trên ý tưởng nén các trạng thái giống nhau
TRƯƠNG XUÂN NAM 45
Bộ phân tích từ vựng dựa trên 
DFA
Phần 4
TRƯƠNG XUÂN NAM 46
DFA trong thực tế
DFA trong thực tế là việc ghép từ rất nhiều các DFA 
con, hãy xem DFA dưới đây và chỉ ra những từ loại 
mà nó đoán nhận
TRƯƠNG XUÂN NAM 47
Bộ PTTV dựa trên DFA
// đầu vào: chuỗi x kết thúc bởi kí hiệu EOF
// đầu ra: trạng thái chấp nhận hoặc lỗi (ERROR)
s := START;
while (s != ERROR) {
c := nextInput(x);
if (c == EOF) break;
s := move(s, c);
}
if (isAcceptState(s)) return acceptState(s);
else return ERROR;
TRƯƠNG XUÂN NAM 48
Bài tập
Phần 5
TRƯƠNG XUÂN NAM 49
Bài tập
1. Hình bên thể hiện đồ thị 
chuyển của một DFA (bắt đầu 
từ q0). Hãy cho biết DFA đó 
sau đoán nhận ngôn ngữ nào? 
(viết dạng biểu thức chính quy)
2. DFA dưới đoán nhận biểu thức 
nào?
TRƯƠNG XUÂN NAM 50
q0 q2
q3q1
1
1
1
1
0 0 0 0
3. DFA dưới đây đoán nhận biểu thức chính quy nào?
4. DFA dưới đây đoán nhận biểu thức chính quy nào?
5. DFA dưới đây đoán nhận biểu thức chính quy nào?
Bài tập
TRƯƠNG XUÂN NAM 51
Bài tập
6. Xây dựng NFA đoán nhận biểu thức (\+? | -?) d+
7. Xây dựng NFA đoán nhận các biểu thức dưới đây:
1. (a* | b*)*
2. (( | a) b)*
3. (a | b)*abb(a | b)*
4. (if | then | else)
5. a((b|a∗c)x)∗|x∗a
6. ab* (a|b)+ a
7. (a|ε)b*ab
8. Xây dựng DFA đoán nhận (0|(1(01*(00)*0)*1)*)*
TRƯƠNG XUÂN NAM 52
Bài tập
9. Chuyển đổi NFA sau thành DFA
10. Chuyển đổi NFA sau thành DFA
TRƯƠNG XUÂN NAM 53
0 1
4
2
6
3
5
97
ε ε
ε
ε
ε
ε
ε
ε
a
a
b
8 b
Bài tập
11. Chuyển đổi các NFA sau thành DFA
TRƯƠNG XUÂN NAM 54
Bài tập
12. Xây dựng DFA tối ưu cho:
1. (a | b)* a (a | b)
2. (a | b)* a (a | b) (a | b)
3. (a | b)* a (a | b) (a | b) (a | b)
13. Tối ưu hóa DFA dưới đây (nếu có thể)
TRƯƠNG XUÂN NAM 55