Mạng máy tính - Chương 2: Xác suất và quá trình ngẫu nhiên

i ≤ n. Có hàm mật độ xác suất đồng thời là p(Xt1+t ,Xt2+t , . . . ,Xtn+t) Nếu p(Xt1 ,Xt2 , . . . ,Xtn) = p(Xt1+t ,Xt2+t , . . . ,Xtn+t)∀t ,n thì quá trình X (t) gọi là quá trình ngẫu nhiên dừng chặt Nếu không, quá trình gọi là không dừng Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 55/ 80 3.1.Khái niệm Xét các giá trị của một quá trình ngẫu nhiên X (t) tại các thời điểm t1 > t2, . . . > tn là n biến ngẫu nhiên Xti ,1 ≤ i ≤ n với hàm mật độ xác suất đồng thời là p(Xt1 ,Xt2 , . . . ,Xtn) Mô men cấp n của mỗi biến Xti là E ( xnti ) = ∞∫ −∞ xnti p (xti )dxti Khi X(t) là dừng chặt, các mô men sẽ không phụ thuộc vào thời gian, do đó các mô men cũng không phụ thuộc thời gian Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 56/ 80 Hàm tự tương quan Mô men chung của hai biến Xti tại hai thời điểm khác nhau E (Xt1Xt2) = ∞∫ −∞ ∞∫ −∞ xt1xt2p (xt1, xt2)dxt1xt2 gọi là hàm tự tương quan φ(t1, t2) của quá trình ngẫu nhiên X (t) Nếu X (t) dừng, khi đó φ(t1, t2) không phụ thuộc vào t1, t2, mà chỉ phụ thuộc vào τ = t1 − t2: φ(τ) Chú ý φ(τ) = φ(−τ) φ(0) = E(X 2t ) là công suất trung bình của X (t) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 57/ 80 Hàm tự tương quan (Tiếp) Một số quá trình ngẫu nhiên không dừng vẫn có φ(t1, t2) = φ(t1 − t2) gọi là dừng theo nghĩa rộng Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 58/ 80 Hàm hiệp biến µ (t1, t2) = E {[Xt1 −m(t1)] . [Xt2 −m(t2)]} = φ (t1, t2)−m (t1)m (t2) Khi quá trình dừng µ (t1, t2) = µ (t1 − t2) = µ (τ) = φ (τ)−m2 Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 59/ 80 Trị trung bình cho quá trình ngẫu nhiên Gaussian Quá trình ngẫu nhiên Gaussian có các giá trị là biến ngẫu nhiên phân bố gaussian tại mọi thời điểm Các biến Xti với hàm hiệp biến µ ( ti , tj ) = E { [Xti −m (ti)] . [ Xtk −m ( tj )]} Nếu X (t) dừng thì µ ( ti , tj ) = µ ( ti − tj ) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 60/ 80 Trị trung bình của các quá trình ngẫu nhiên đồng thời Quá trình ngẫu nhiên đồng thời X(t),Y(t) Đặt Xti ≡ X (ti),1 ≤ i ≤ n,Yt ′j ≡ Y (t ′j ),1 ≤ j ≤ m Hai quá trình sẽ được đặc trưng bởi hàm mật độ phân bố xác suất đồng thời p(xt1 , xt2 . . . xtn , y(t ′ 1), y(t ′2) . . . , y(t ′m)) Hàm tương quan chéo φxy (t1, t2) = E (Xt1Yt2) = ∞∫ −∞ ∞∫ −∞ xt1yt2p (xt1, yt2)dxt1dyt2 Hàm hiệp biến chéo µxy (t1, t2) = φxy (t1, t2)−mx (t1)my (t2) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 61/ 80 Trị trung bình của các quá trình ngẫu nhiên đồng thời (Tiếp) Hai quá trình gọi là độc lập thống kê nếu p(xt1 , xt2 . . . xtn) = p(xt1 , xt2 . . . xtn |y(t ′1), y(t ′2) . . . , y(t ′m)) Hai quá trình gọi là không tương quan nếu φxy(t1, t2) = E(Xt1)E(Yt1) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 62/ 80 Quá trình ngẫu nhiên phức Định nghĩa Z (t) = X (t) + jY (t) Thống kê bậc n : Z (ti),1 ≤ i ≤ n Hàm mật độ xác suất: p(xt1 , xt2 , . . . xtn , xt1 , xt2 , . . . xtn) Hàm tự tương quan φzz(t1, t2) = 1 2 E(Zt1Z∗t2) = 1 2 E((Xt1 + jYt1)(Xt2 − jYt2)) = 1 2 (φxx(t1, t2) + φyy(t1, t2) + j(φyx(t1, t2)− φxy(t1, t2))) Nếu X,Y dừng độc lập và đồng thời φzz(t1, t2) = φzz(t1 − t2) = φzz(τ) Hàm liên hợp phức φ ∗zz (τ) = φzz(−τ) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 63/ 80 3.2.Phổ mật độ công suất Tín hiệu có thể có công suất trung bình hữu hạn hoặc vô hạn Nếu tín hiệu có công suất hữu hạn, biểu diễn tần số có thể thu được bằng biến đổi Fourier. Nếu tín hiệu có công suất vô hạn và tuần hoàn, dùng chuỗi Fourier để biểu diễn. Hệ số của các thành phần trong chuỗi Fourier phản ánh phân bố công suất Quá trình ngẫu nhiên dừng có công suất vô hạn Có thể tính được phân bố công suất theo tần số Φ (f ) = ∞∫ −∞ φ (τ)e−j2pifτdτ Và ngược lại φ (τ) = ∞∫ −∞ Φ (f )ej2pifτdf Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 64/ 80 3.2.Phổ mật độ công suất (Tiếp) Từ φ (0) = ∞∫ −∞ Φ (f )df = E (|X1 (t)|)2 ≥ 0 Φ (f ) gọi là hàm mật độ công suất của quá trình ngẫu nhiên Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 65/ 80 Phổ mật độ công suất chéo Phổ mật độ công suất chéo Φxy(f ) = ∫ ∞ ∞ φxy(τ)e−j2pifτdτ Liên hợp phức hai vế Φ∗xy(f ) = ∫ ∞ ∞ φ∗xy(τ)ej2pifτdτ = ∫ ∞ ∞ φ∗xy(−τ)e−j2pifτdτ =∫ ∞ ∞ φ∗xy(τ)e−j2pifτdτ = Φyx(f ) Khi X , Y là các quá trình ngẫu nhiên thực Φ∗xy(f ) = ∫ ∞ ∞ φxy(τ)e−j2pifτdτ = Φxy(−f ) Vậy Φyx(f ) = Φxy(−f ) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 66/ 80 3.3.Đáp ứng của một hệ thống tuyến tính bất biến theo thời gian với một tín hiệu vào ngẫu nhiên Xét một hệ tuyến tính bất biến theo thời gian, Hệ thống được đặc trưng bởi đặc tính xung, là đầu ra của hệ thống khi đầu vào là một tín hiệu xung (δ(t)) Tín hiệu đầu ra này là một hàm số theo thời gian h(t) Tín hiệu này cũng có thể được biểu diễn bằng hàm số theo tần số H(f ) Tín hiệu đầu ra y(t)có thể tính theo tín hiệu đầu vào x(t) y (t) = y( ∞∫ −∞ δ(τ)x(t − τ)dτ) = ∞∫ −∞ h (τ) x (t − τ)dτ Đầu vào và đầu ra đều là các quá trình ngẫu nhiên X (t),Y (t), x(t), y(t) là hai hàm mẫu của X (t),Y (t) Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 67/ 80 3.3.Đáp ứng của một hệ thống tuyến tính bất biến theo thời gian với một tín hiệu vào ngẫu nhiên (Tiếp) Giá trị trung bình của Y (t) my = E [Y (t)] = ∞∫ −∞ h (τ)E [X (t − τ)]dτ = mx ∞∫ −∞ h (τ)dτ = mxH (0) H(0) là đáp ứng của hệ khi f = 0 Giá trị trung bình của tín hiệu đầu ra bằng hằng số nhân với giá trị trung bình của đầu vào Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 68/ 80 3.3.Đáp ứng của một hệ thống tuyến tính bất biến theo thời gian với một tín hiệu vào ngẫu nhiên Hàm tự tương quan của đầu ra φyy (t1, t2) = 1 2 E (Yt1Y ∗t2) = 1 2 ∞∫ −∞ ∞∫ −∞ h (β)h∗ (α)E [X (t1 − β)X ∗ (t2 − α)]dαdβ = ∞∫ −∞ ∞∫ −∞ h (β)h∗ (α)φxx (t1 − t2 + α− β)dαdβ Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 69/ 80 3.3.Đáp ứng của một hệ thống tuyến tính bất biến theo thời gian với một tín hiệu vào ngẫu nhiên (Tiếp) Nếu đầu vào dừng, đầu ra cũng dừng φyy (τ) = ∞∫ −∞ ∞∫ −∞ h (β)h∗ (α)φxx (τ + α− β)dαdβ Áp dụng biến đổi Fourier cho cả hai vế có phổ mật độ công suất Φyy(f ) = ∞∫ −∞ φyy(τ)e−j2pifτdτ = ∞∫ −∞ ∞∫ −∞ ∞∫ −∞ h∗(α)h(β)φxx(τ + α− β)e−j2piτdτdαβ = Φxx(f ) |H(f )|2 Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 70/ 80 3.3.Đáp ứng của một hệ thống tuyến tính bất biến theo thời gian với một tín hiệu vào ngẫu nhiên (Tiếp) Biến đổi ngược φyy(τ) = ∞∫ −∞ Φyy(f )ej2pifτdf = ∞∫ −∞ Φxx(f )|H(f )|2ej2pifτdf Công suất trung bình tín hiệu đầu ra φyy(0) = ∞∫ −∞ Φxx(f )|H(f )|2df Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 71/ 80 Tín hiệu có băng tần hạn chế Nhắc lại tín hiệu băng tần hạn chế: S(f ) = 0∀|f | >W có thể được rời rạc hóa vớitốc độ lấy mẫu tối thiểu 2W (tốc độ Nyquist) Khôi phục tín hiệu từ kết quả lấy mẫu s(t) = ∞∑ n=−∞ s ( n 2W ) sin[2piW(t− n2W)] 2piW(t− n2W) Mở rộng công thức trên cho quá trình ngẫu nhiên Quá trình ngẫu nhiên băng tần hạn chế Φ(f ) = 0∀|f | >W Quá trình ngẫu nhiên có thể được biểu diễn bằng X (t) = ∞∑ n=−∞ X ( n 2W ) sin[2piW(t− n2W )] 2piW(t− n2W ) Có thể tính phương sai của chênh lệch E{|X (t)− ∞∑ n=−∞ X ( n 2W ) sin[2piW(t− n2W)] 2piW(t− n2W) |2} = 0 Quá trình ngẫu nhiên được biểu diễn tương đương bằng các mẫu, với phương sai 0, khi số mẫu lớn hơn 2W Chương 2: Xác suất và quá trình ngẫu nhiên 3. Quá trình ngẫu nhiên 72/ 80 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 1 Sự kiện, xác suất, tính độc lập thống kê 2 Biến ngẫu nhiên 3 Quá trình ngẫu nhiên 4 Tín hiệu ngẫu nhiên rời rạc theo thời gian Đặc trưng của tín hiệu rời rạc Đáp ứng của hệ thống tuyến tính rời rạc Các quá trình dừng vòng Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 73/ 80 Tín hiệu ngẫu nhiên rời rạc Quá trình ngẫu nhiên rời rạc X (n) gồm tập hợp các dãy biến ngẫu nhiên {x(n)} Mô men bậc n của X (n) E[Xmn ] = ∞∫ −∞ Xmn p(Xn)dXn Dãy tự tương quan φ(n, k) = 1 2 E(XnX ∗k ) = ∞∫ −∞ ∞∫ −∞ XnX ∗k p(XnXk)dXndXk Dãy tự hợp biến µ(n, k) = φ(n, k)− E(Xn)E(X ∗k ) Với quá trình ngẫu nhiên dừng, ta có φ(n, k) ≡ φ(n−k), µ(n, k) ≡ µ(n−k), µ(n−k) = φ(n−k)−m2x Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 74/ 80 Tín hiệu ngẫu nhiên rời rạc (Tiếp) Phổ mật độ công suất Φ(f ) = ∞∑ n=−∞ φ(n)e−j2pifn và φ(n) = 1/2∫ −1/2 Φ(f )ej2pifndf Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 75/ 80 Đáp ứng của hệ thống tuyến tính rời rạc Hàm đáp ứng tần số H(f ) = ∞∑ n=−∞ h(n)e−j2pifn Tín hiệu đáp ứng y(n) = y( ∞∑ k=−∞ δ(k)x(n − k)) = ∞∑ k=−∞ h(k)x(n − k) Trị trung bình của tín hiệu ra my = mxH(0) Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 76/ 80 Đáp ứng của hệ thống tuyến tính rời rạc (Tiếp) Dãy tự tương quan của tín hiệu ra φyy(k) = ∞∑ i=−∞ ∞∑ j=−∞ h∗(i)h(j)φxx(k − j + i) Phổ mật độ công suất tín hiệu ra Φyy(f ) = Φxx(f )|H(f )|2 Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 77/ 80 Quá trình dừng vòng Các quá trình ngẫu nhiên dừng, có các giá trị thống kê tuần hoàn. Ví dụ X (t) = ∞∑ n=−∞ ang(t − nT ) an là dãy các biến ngẫu nhiên rời rạc, có trị trung bình ma = E[an]∀n dãy tự tương quan φaa(k) = 12(a ∗ nan+k) g(t) là tín hiệu xác định Giá trị trung bình E[X(t)] = ∞∑ n=−∞ E(an)g(t − nT ) = ma ∞∑ n=−∞ g(t − nT ) Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 78/ 80 Quá trình dừng vòng (Tiếp) Hàm tự tương quan φxx(t + τ, t) = 1 2 E[X(t+τ)X∗(t)] = ∞∑ n=−∞ ∞∑ m=−∞ φaa(m − n)g∗(t − nT )g(t + τ −mT ) phụ thuộc vào t , τ . Hàm tự tương quan trung bình trong một chu kỳ chỉ phụ thuộc τ φ¯xx(τ) = 1 T T/2∫ −T/2 φxx(t + τ, t)dt Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 79/ 80 Quá trình dừng vòng (Tiếp) Phổ mật độ công suất trung bình Φxx(f ) = ∞∫ −∞ φ¯xx(τ)e−j2pifτdτ Chương 2: Xác suất và quá trình ngẫu nhiên 4. Tín hiệu ngẫu nhiên rời rạc theo thời gian 80/ 80