Bài 1 Kiến thức chung về tin học


và máy tính điện tử

I / khái niệm về Thông tin : ( InFORMATION )

+ Mỗi đối tượng trong một vấn đề nghiên cứu , chứa một tập các đặc trưng của nó . Đối tượng học sinh trong bài toán quản lý điểm gồm các đặc trưng : số báo danh, họ tên, ngày sinh, điểm các môn ...Tập các giá trị của các đặc trưng này gọi là tập các dữ liệu mô tả đối tượng .

+ Thông tin về một đối tượng : là một dạng vật chất giúp chúng ta nhận biết và hiểu rõ hơn về đối tượng nghĩa là nhờ thông tin này ta hiểu rõ hơn các đặc trưng của đối tượng .
+ Độ bất định của đối tượng : Giả sử hiện tại một đối tượng có n trạng thái , nếu khả năng xuất hiện trạng thái i (1<= i<=n) được đánh giá là số p i , thì người ta định nghĩa độ bất định hiện tại của đối tượng là số P , được tính theo công thức


P = - ( p1 log 2 p 1 + p2 log 2 p 2 +....+ pi log 2 p i +..... + pn log 2 p n )


Thí dụ :
Đối tượng nghiên cứu một ngọn đèn với đặc trưng “ đèn có sáng hay không “ thì khả năng đèn sáng là 0.5 , khả năng đèn không sáng là 0.5 . Nếu ta chưa rõ ngọn đèn sáng hay tắt thì độ bất định của đối tượng là Ptrước = -(0.5.log20.5+0.5.log20.5) = 1 . Sau đó ta nhìn ngọn đèn (thấy nó sáng chẳng hạn ) thì độ bất định mới của đối tượng là Psau=-log21=0,do đó ta đã nhận được lượng thông tin về đèn là T= | Ptrước - Psau | = 1 (Bit)

Thông tin có thể đo được thông qua sự thay đổi của độ bất định của đối tượng trước và sau khi nhận được thông tin về đối tượng này , sự thay đổi độ bất định gọi là lượng tin của thông tin : T= | Ptrước - Psau |

Tổng quát , xét một sự kiện chỉ có 2 trạng thái với khả năng xuất hiện như nhau thì độ bất định của sự kiện là Ptrước = -(0.5.log20.5+0.5.log20.5) = log22 =1 . Khi đã rõ một trạng thái của sự kiện xảy ra thì sự kiện còn độ bất định Psau = 0 , vậy thông tin làm rõ trạng thái của sự kiện này chứa lượng tin là T= | Ptrước - Psau | = 1-0 =1 ( Bit )

Đơn vị đo thông tin là Bit . Thông tin 1 bit là thông tin có lượng tin vừa đủ để nhận biết 1 trong 2 trạng thái xảy ra của đối tượng mà đối tượng này chỉ có 2 trạng thái với khả năng xảy ra như nhau .

Ta có thể dễ dàng tính được lượng tin của thông tin biết hình ảnh sáng của dãy 8 bóng đèn ( các bóng mắc độc lập ) là 8 bit
Tổng quát : khi biết rõ đã xảy ra 1 trong 256 = 28 khả năng như nhau của một hiện tượng thì ta đã nhận được thông tin 8 bit
Đơn vị đo thông tin :

8