ชีวประวัติ ลักษณะเฉพาะ การวิเคราะห์

กระบวนการมาร์คอฟที่มีสองสถานะ การตีความแนวคิดโดยละเอียด

สมมติฐานเกี่ยวกับธรรมชาติของปัวซองของการไหลของคำขอและเกี่ยวกับการกระจายเวลาการบริการแบบเอ็กซ์โพเนนเชียลนั้นมีคุณค่าเนื่องจากช่วยให้เราสามารถใช้เครื่องมือของสมการที่เรียกว่าสมการมาร์คอฟในทฤษฎีคิวได้ กระบวนการสุ่ม.

กระบวนการที่เกิดขึ้นในระบบทางกายภาพเรียกว่ากระบวนการมาร์คอฟ (หรือกระบวนการที่ไม่มีผลกระทบ) หากความน่าจะเป็นของสถานะใด ๆ ของระบบในอนาคตขึ้นอยู่กับสถานะของระบบในแต่ละครั้งเท่านั้น ช่วงเวลาปัจจุบันและไม่ขึ้นอยู่กับว่าระบบมาถึงสถานะนี้ได้อย่างไร

ลองพิจารณาตัวอย่างเบื้องต้นของกระบวนการสุ่มของมาร์คอฟ จุดเคลื่อนที่แบบสุ่มไปตามแกนแอบซิสซา ในขณะนั้น จุดนั้นอยู่ที่จุดกำเนิดและคงอยู่ตรงนั้นเป็นเวลาหนึ่งวินาที วินาทีต่อมา มีการโยนเหรียญ ถ้าแขนเสื้อหลุดออก จุดจะเคลื่อนไปทางขวาหนึ่งหน่วยความยาว ถ้าตัวเลขเคลื่อนไปทางซ้าย วินาทีต่อมา เหรียญถูกโยนอีกครั้งและมีการเคลื่อนไหวแบบสุ่มแบบเดียวกัน ฯลฯ กระบวนการเปลี่ยนตำแหน่งของจุด (หรืออย่างที่พวกเขาพูดว่า "เดิน") เป็นกระบวนการสุ่มที่มีเวลาไม่ต่อเนื่องและเซตที่นับได้ ของรัฐ

แผนภาพของการเปลี่ยนแปลงที่เป็นไปได้สำหรับกระบวนการนี้แสดงไว้ในรูปที่ 1 19.7.1.

ให้เราแสดงให้เห็นว่ากระบวนการนี้คือมาร์โคเวียน อันที่จริง ลองจินตนาการว่า ณ จุดหนึ่ง ระบบจะอยู่ในสถานะหนึ่งหน่วยทางด้านขวาของจุดกำเนิด ตำแหน่งที่เป็นไปได้ของจุดหลังจากหน่วยเวลาจะมีความน่าจะเป็น 1/2 และ 1/2 ผ่านสองหน่วย - , , โดยมีความน่าจะเป็น 1/4, ½, 1/4 และอื่นๆ แน่นอนว่าความน่าจะเป็นทั้งหมดนี้ขึ้นอยู่กับว่าจุดนั้นอยู่ ณ จุดใดในขณะนั้นเท่านั้น และไม่ขึ้นอยู่กับว่าจุดนั้นไปถึงจุดนั้นได้อย่างไร

ลองดูอีกตัวอย่างหนึ่ง มีอุปกรณ์ทางเทคนิคประกอบด้วยองค์ประกอบ (ชิ้นส่วน) ประเภทและมีความทนทานต่างกัน องค์ประกอบเหล่านี้อาจล้มเหลวในเวลาสุ่มและแยกจากกัน การทำงานที่เหมาะสมของแต่ละองค์ประกอบเป็นสิ่งจำเป็นอย่างยิ่งต่อการทำงานของอุปกรณ์โดยรวม เวลาดำเนินการที่ปราศจากความล้มเหลวขององค์ประกอบเป็นตัวแปรสุ่มที่กระจายตามกฎเลขชี้กำลัง สำหรับองค์ประกอบประเภทและพารามิเตอร์ของกฎหมายนี้มีความแตกต่างและเท่ากับและตามลำดับ ในกรณีที่อุปกรณ์ขัดข้อง จะมีการดำเนินการตามมาตรการทันทีเพื่อระบุสาเหตุและองค์ประกอบที่ผิดพลาดที่ตรวจพบจะถูกแทนที่ด้วยองค์ประกอบใหม่ทันที เวลาที่จำเป็นในการกู้คืน (ซ่อมแซม) อุปกรณ์จะได้รับการกระจายตามกฎเอ็กซ์โพเนนเชียลพร้อมพารามิเตอร์ (หากองค์ประกอบประเภท ) และ (หากองค์ประกอบประเภท ) ล้มเหลว

ใน ในตัวอย่างนี้กระบวนการสุ่มที่เกิดขึ้นในระบบคือกระบวนการมาร์คอฟที่มีเวลาต่อเนื่องและมีสถานะจำกัด:

ทุกองค์ประกอบใช้งานได้ปกติ ระบบใช้งานได้

องค์ประกอบประเภทมีข้อบกพร่อง ระบบกำลังซ่อมแซม

องค์ประกอบประเภทมีข้อบกพร่อง ระบบกำลังได้รับการซ่อมแซม

แผนภาพของการเปลี่ยนแปลงที่เป็นไปได้จะแสดงในรูป 19.7.2.

แท้จริงแล้วกระบวนการนี้มีคุณสมบัติของมาร์คอฟ ตัวอย่างเช่น ในขณะนี้ระบบอยู่ในสถานะ (ใช้งานได้) เนื่องจากเวลาการทำงานที่ปราศจากความล้มเหลวของแต่ละองค์ประกอบเป็นตัวบ่งชี้ ช่วงเวลาแห่งความล้มเหลวของแต่ละองค์ประกอบในอนาคตจึงไม่ขึ้นอยู่กับระยะเวลาในการทำงาน (เมื่อส่งมอบ) ดังนั้นความน่าจะเป็นที่ในอนาคตระบบจะยังคงอยู่ในสถานะหรือปล่อยทิ้งไว้ไม่ได้ขึ้นอยู่กับ "ยุคก่อนประวัติศาสตร์" ของกระบวนการ ให้เราสมมติว่าในขณะนี้ระบบอยู่ในสถานะ (องค์ประกอบประเภทมีข้อบกพร่อง) เนื่องจากเวลาในการซ่อมแซมยังเป็นตัวบ่งชี้ ความน่าจะเป็นในการซ่อมแซมให้เสร็จสิ้นในเวลาใดๆ หลังจากนั้นไม่ได้ขึ้นอยู่กับว่าการซ่อมแซมเริ่มต้นเมื่อใดและเมื่อใดที่มีการส่งมอบส่วนประกอบ (ที่สามารถซ่อมบำรุงได้) ที่เหลือ ดังนั้นกระบวนการนี้คือมาร์โคเวียน

โปรดทราบว่าการกระจายแบบเอ็กซ์โพเนนเชียลของเวลาการทำงานขององค์ประกอบและการกระจายแบบเอ็กซ์โพเนนเชียลของเวลาซ่อมแซมเป็นเงื่อนไขสำคัญ โดยที่กระบวนการนี้จะไม่ใช่ Markovian อันที่จริง ให้เราสมมติว่าเวลาของการดำเนินการที่เหมาะสมขององค์ประกอบนั้นไม่ได้กระจายตามกฎเลขชี้กำลัง แต่ตามกฎอื่นบางข้อ - ตัวอย่างเช่นตามกฎความหนาแน่นสม่ำเสมอในพื้นที่ ซึ่งหมายความว่าแต่ละองค์ประกอบรับประกันว่าจะทำงานได้ในช่วงระยะเวลาหนึ่ง และในส่วนต่อจากนี้ไปอาจล้มเหลวได้ทุกเมื่อโดยมีความหนาแน่นของความน่าจะเป็นเท่ากัน สมมติว่า ณ จุดใดจุดหนึ่งองค์ประกอบทำงานอย่างถูกต้อง แน่นอนว่า ความน่าจะเป็นที่องค์ประกอบจะล้มเหลว ณ จุดใดจุดหนึ่งในอนาคตขึ้นอยู่กับระยะเวลาในการติดตั้งองค์ประกอบนั้น กล่าวคือ ขึ้นอยู่กับประวัติก่อนหน้า และกระบวนการจะไม่ใช่ Markovian

สถานการณ์จะคล้ายกับเวลาในการซ่อม หากไม่ได้บ่งชี้และองค์ประกอบกำลังได้รับการซ่อมแซมในขณะนี้เวลาในการซ่อมแซมที่เหลือจะขึ้นอยู่กับว่าเริ่มต้นเมื่อใด กระบวนการนี้จะไม่ใช่ Markovian อีกครั้ง

โดยทั่วไปแล้ว การแจกแจงแบบเอ็กซ์โปเนนเชียลจะเล่น บทบาทพิเศษในทฤษฎีกระบวนการสุ่มมาร์คอฟด้วยเวลาต่อเนื่อง เป็นเรื่องง่ายที่จะตรวจสอบว่าในกระบวนการ Markov ที่อยู่กับที่ เวลาที่ระบบยังคงอยู่ในสถานะใดๆ จะถูกกระจายตามกฎเอ็กซ์โปเนนเชียลเสมอ (โดยขึ้นอยู่กับพารามิเตอร์ในสถานะนี้ โดยทั่วไป) อันที่จริง ให้เราสมมติว่าในขณะนี้ระบบอยู่ในสถานะและอยู่ในระบบมาระยะหนึ่งแล้ว ตามคำจำกัดความของกระบวนการมาร์คอฟ ความน่าจะเป็นของเหตุการณ์ใดๆ ในอนาคตไม่ได้ขึ้นอยู่กับประวัติศาสตร์ที่ผ่านมา โดยเฉพาะอย่างยิ่ง ความน่าจะเป็นที่ระบบจะออกจากสถานะภายในเวลาที่กำหนดไม่ควรขึ้นอยู่กับระยะเวลาที่ระบบใช้ไปแล้วในสถานะนั้น ด้วยเหตุนี้ เวลาที่ระบบยังคงอยู่ในสถานะจึงต้องกระจายตามกฎเลขชี้กำลัง

ในกรณีที่กระบวนการที่เกิดขึ้นในระบบฟิสิคัลที่มีชุดสถานะที่นับได้และเวลาต่อเนื่องกันคือมาร์โคเวียน กระบวนการนี้สามารถอธิบายได้โดยใช้วิธีธรรมดา สมการเชิงอนุพันธ์โดยที่ฟังก์ชันที่ไม่รู้จักคือความน่าจะเป็นของรัฐ เราจะสาธิตองค์ประกอบและการแก้สมการดังกล่าวในตัวอย่างต่อไปนี้ ระบบที่ง่ายที่สุดบริการมวลชน

ทฤษฎีการเข้าคิวเป็นหนึ่งในสาขาหนึ่งของทฤษฎีความน่าจะเป็น ทฤษฎีนี้ถือว่า ความน่าจะเป็นงานและ แบบจำลองทางคณิตศาสตร์(ก่อนหน้านี้เราพิจารณาแบบจำลองทางคณิตศาสตร์ที่กำหนดขึ้นเอง) เราขอเตือนคุณว่า:

แบบจำลองทางคณิตศาสตร์เชิงกำหนดสะท้อนพฤติกรรมของวัตถุ (ระบบ กระบวนการ) จากมุมมอง มั่นใจเต็มที่ในปัจจุบันและอนาคต

แบบจำลองทางคณิตศาสตร์ความน่าจะเป็นคำนึงถึงอิทธิพลของปัจจัยสุ่มที่มีต่อพฤติกรรมของวัตถุ (ระบบ กระบวนการ) และดังนั้นจึงประเมินอนาคตจากมุมมองของความน่าจะเป็นของเหตุการณ์บางอย่าง

เหล่านั้น. ในที่นี้ ตัวอย่างเช่น ในการพิจารณาปัญหาทฤษฎีเกม ในเงื่อนไขความไม่แน่นอน.

ก่อนอื่นให้เราพิจารณาแนวคิดบางประการที่แสดงถึง "ความไม่แน่นอนของการสุ่ม" เมื่อปัจจัยที่ไม่แน่นอนที่รวมอยู่ในปัญหาคือตัวแปรสุ่ม (หรือฟังก์ชันสุ่ม) ซึ่งเป็นลักษณะความน่าจะเป็นที่ทราบหรือหาได้จากประสบการณ์ ความไม่แน่นอนดังกล่าวเรียกอีกอย่างว่า "เอื้ออำนวย" "ไม่เป็นพิษเป็นภัย"

แนวคิดของกระบวนการสุ่ม

พูดอย่างเคร่งครัด การรบกวนแบบสุ่มนั้นเกิดขึ้นได้ในทุกกระบวนการ การยกตัวอย่างกระบวนการสุ่มง่ายกว่ากระบวนการที่ "ไม่สุ่ม" ตัวอย่างเช่น กระบวนการเดินนาฬิกา (ดูเหมือนว่าจะเป็นงานที่ปรับเทียบอย่างเคร่งครัด - "ทำงานเหมือนนาฬิกา") อาจมีการเปลี่ยนแปลงแบบสุ่ม (ก้าวไปข้างหน้า ล้าหลัง หยุด) แต่ตราบใดที่การรบกวนเหล่านี้ไม่มีนัยสำคัญและมีผลเพียงเล็กน้อยต่อพารามิเตอร์ที่เราสนใจ เราก็สามารถละเลยสิ่งเหล่านั้นและพิจารณาว่ากระบวนการนี้เป็นสิ่งที่กำหนดได้ ไม่ใช่แบบสุ่ม

ให้มันมีระบบบ้าง. (อุปกรณ์ทางเทคนิค กลุ่มของอุปกรณ์ดังกล่าว ระบบเทคโนโลยี - เครื่องจักร ไซต์งาน เวิร์กช็อป องค์กร อุตสาหกรรม ฯลฯ) ในระบบ การรั่วไหล กระบวนการสุ่มถ้ามันเปลี่ยนสถานะเมื่อเวลาผ่านไป (ผ่านจากรัฐหนึ่งไปอีกรัฐหนึ่ง) ยิ่งไปกว่านั้นในลักษณะสุ่มที่ไม่รู้จักก่อนหน้านี้

ตัวอย่าง: 1. ระบบ – ระบบเทคโนโลยี (ส่วนเครื่องจักร) เครื่องจักรพังเป็นครั้งคราวและได้รับการซ่อมแซม กระบวนการที่เกิดขึ้นในระบบนี้เป็นแบบสุ่ม

2. ระบบ - เครื่องบินที่บินในระดับความสูงที่กำหนดตามเส้นทางเฉพาะ ปัจจัยที่รบกวน เช่น สภาพอากาศ ข้อผิดพลาดของลูกเรือ ฯลฯ ผลที่ตามมา - ความปั่นป่วน การละเมิดตารางการบิน ฯลฯ

กระบวนการสุ่มมาร์คอฟ

กระบวนการสุ่มที่เกิดขึ้นในระบบเรียกว่า มาร์คอฟสกี้หากช่วงเวลาใดเวลาหนึ่ง ที 0 ลักษณะความน่าจะเป็นของกระบวนการในอนาคตขึ้นอยู่กับสถานะของกระบวนการในขณะนั้นเท่านั้น ที 0 และไม่ได้ขึ้นอยู่กับว่าระบบจะไปถึงสถานะนี้เมื่อใดและอย่างไร

ปล่อยให้ระบบอยู่ในสถานะที่แน่นอนในขณะนี้ t 0 0 . เรารู้ถึงลักษณะของสถานะของระบบในปัจจุบันทุกอย่างที่เกิดขึ้นเมื่อใด ที<ที 0 (ประวัติกระบวนการ) เราสามารถทำนาย (ทำนาย) อนาคตได้หรือไม่ เช่น จะเกิดอะไรขึ้นเมื่อ ที>ที 0 ? ไม่แน่ชัด แต่ลักษณะความน่าจะเป็นของกระบวนการบางอย่างสามารถพบได้ในอนาคต เช่น ความน่าจะเป็นที่ระบบจะผ่านไประยะหนึ่ง จะสามารถ 1 หรือจะยังคงอยู่ในสถานะ 0 ฯลฯ

ตัวอย่าง- ระบบ - กลุ่มเครื่องบินที่เข้าร่วม การรบทางอากาศ- อนุญาต x– จำนวนเครื่องบิน “สีแดง” – จำนวนเครื่องบิน “สีน้ำเงิน” โดยตามเวลา ที 0 จำนวนเครื่องบินที่รอดชีวิต (ไม่ถูกยิงตก) ตามลำดับ – x 0 , 0 . เราสนใจในความน่าจะเป็นที่ ณ เวลานี้ ความเหนือกว่าเชิงตัวเลขจะอยู่ด้านข้างของ "สีแดง" ความน่าจะเป็นนี้ขึ้นอยู่กับสถานะของระบบในขณะนั้น ที 0 และไม่ใช่ว่าเมื่อใดและในลำดับใดผู้ถูกยิงเสียชีวิตจนถึงขณะนั้น ที 0 เครื่องบิน

ในทางปฏิบัติ Markov ดำเนินการใน รูปแบบบริสุทธิ์มักจะไม่พบ แต่มีกระบวนการที่สามารถละเลยอิทธิพลของ "ยุคก่อนประวัติศาสตร์" ได้ และเมื่อศึกษากระบวนการดังกล่าวสามารถใช้แบบจำลองมาร์คอฟได้ (ทฤษฎีการเข้าคิวไม่ได้พิจารณาระบบการเข้าคิวของมาร์คอฟ แต่เครื่องมือทางคณิตศาสตร์ที่อธิบายสิ่งเหล่านี้นั้นซับซ้อนกว่ามาก)

ในการวิจัยการดำเนินงาน คุ้มค่ามากมีกระบวนการสุ่มมาร์คอฟที่มีสถานะไม่ต่อเนื่องและเวลาต่อเนื่องกัน

กระบวนการนี้เรียกว่า กระบวนการของรัฐที่ไม่ต่อเนื่องถ้าเป็นไปได้ 1 , 2, ... สามารถกำหนดล่วงหน้าได้ และการเปลี่ยนแปลงของระบบจากสถานะหนึ่งไปอีกสถานะหนึ่งเกิดขึ้น "แบบก้าวกระโดด" เกือบจะในทันที

กระบวนการนี้เรียกว่า กระบวนการเวลาต่อเนื่องหากช่วงเวลาของการเปลี่ยนผ่านจากรัฐหนึ่งไปอีกรัฐหนึ่งที่เป็นไปได้ไม่ได้รับการแก้ไขล่วงหน้า แต่มีความไม่แน่นอน เป็นแบบสุ่ม และสามารถเกิดขึ้นได้ตลอดเวลา

ตัวอย่าง- ระบบเทคโนโลยี (ส่วน) ประกอบด้วยเครื่องจักรสองเครื่อง ซึ่งแต่ละเครื่องสามารถล้มเหลว (ล้มเหลว) ในช่วงเวลาสุ่ม หลังจากนั้นการซ่อมแซมหน่วยจะเริ่มต้นทันที ซึ่งดำเนินต่อไปโดยไม่ทราบเวลาสุ่ม สถานะของระบบต่อไปนี้เป็นไปได้:

0 - ทั้งสองเครื่องกำลังทำงาน

1 - เครื่องแรกกำลังได้รับการซ่อมแซม เครื่องที่สองกำลังทำงาน

2 - กำลังซ่อมแซมเครื่องที่สอง เครื่องแรกกำลังทำงาน

3 - ทั้งสองเครื่องอยู่ระหว่างการซ่อมแซม

การเปลี่ยนแปลงระบบ จากสถานะหนึ่งไปอีกสถานะหนึ่งเกิดขึ้นเกือบจะในทันทีในช่วงเวลาสุ่มเมื่อเครื่องจักรบางเครื่องล้มเหลวหรือการซ่อมแซมเสร็จสิ้น

เมื่อวิเคราะห์กระบวนการสุ่มที่มีสถานะแยกจะสะดวกในการใช้โครงร่างทางเรขาคณิต - กราฟสถานะ- จุดยอดของกราฟคือสถานะของระบบ ส่วนโค้งกราฟ – การเปลี่ยนที่เป็นไปได้จากสถานะเป็น

รูปที่ 1. กราฟสถานะระบบ

สถานะ. สำหรับตัวอย่างของเรา กราฟสถานะจะแสดงในรูปที่ 1

บันทึก. การเปลี่ยนจากรัฐ 0 นิ้ว 3 ไม่ได้ระบุในรูปเพราะว่า สันนิษฐานว่าเครื่องจักรล้มเหลวโดยแยกจากกัน เราละเลยความเป็นไปได้ที่จะเกิดความล้มเหลวพร้อมกันของทั้งสองเครื่อง

กระบวนการมาร์คอฟได้มาจากนักวิทยาศาสตร์ในปี 1907 นักคณิตศาสตร์ชั้นนำในยุคนั้นได้พัฒนาทฤษฎีนี้ขึ้น และบางคนยังคงปรับปรุงอยู่ ระบบนี้ยังได้รับการขยายไปยังระบบอื่นๆ สาขาวิทยาศาสตร์- มีการใช้โซ่ Markov ที่ใช้งานได้จริง สาขาต่างๆที่ซึ่งบุคคลต้องมาถึงในสภาวะที่คาดหวัง แต่การที่จะเข้าใจระบบได้ชัดเจนคุณต้องมีความรู้เกี่ยวกับข้อกำหนดและเงื่อนไข ปัจจัยหลักที่กำหนดกระบวนการมาร์คอฟถือเป็นการสุ่ม จริงอยู่ มันไม่เหมือนกับแนวคิดเรื่องความไม่แน่นอน มันมีเงื่อนไขและตัวแปรที่แน่นอน

คุณสมบัติของปัจจัยสุ่ม

เงื่อนไขนี้ขึ้นอยู่กับเสถียรภาพคงที่หรือแม่นยำยิ่งขึ้นตามกฎหมายซึ่งไม่นำมาพิจารณาภายใต้ความไม่แน่นอน ในทางกลับกันเกณฑ์นี้ช่วยให้เราสามารถใช้ วิธีการทางคณิตศาสตร์ในทฤษฎีกระบวนการมาร์คอฟดังที่นักวิทยาศาสตร์ผู้ศึกษาพลวัตของความน่าจะเป็นระบุไว้ งานที่เขาสร้างขึ้นเกี่ยวข้องกับตัวแปรเหล่านี้โดยตรง ในทางกลับกัน กระบวนการสุ่มที่ศึกษาและพัฒนาซึ่งมีแนวคิดเกี่ยวกับสถานะและการเปลี่ยนแปลง และยังใช้ในปัญหาสุ่มและคณิตศาสตร์ ทำให้แบบจำลองเหล่านี้สามารถทำงานได้ เหนือสิ่งอื่นใด ทำให้สามารถปรับปรุงวิทยาศาสตร์เชิงทฤษฎีและปฏิบัติที่สำคัญอื่นๆ ที่สำคัญได้:

  • ทฤษฎีการแพร่กระจาย
  • ทฤษฎีการเข้าคิว
  • ทฤษฎีความน่าเชื่อถือและอื่นๆ
  • เคมี;
  • ฟิสิกส์;
  • กลศาสตร์.

ลักษณะสำคัญของปัจจัยที่ไม่ได้วางแผนไว้

กระบวนการมาร์คอฟนี้ถูกกำหนดโดยฟังก์ชันสุ่ม นั่นคือ ค่าใด ๆ ของอาร์กิวเมนต์ถือเป็นค่าที่กำหนดหรือค่าที่ใช้แบบฟอร์มที่เตรียมไว้ล่วงหน้า ตัวอย่างได้แก่:

  • การสั่นสะเทือนในวงจร
  • ความเร็วในการเคลื่อนที่
  • ความหยาบผิวในพื้นที่ที่กำหนด

เป็นที่ยอมรับกันโดยทั่วไปว่าข้อเท็จจริงของฟังก์ชันสุ่มคือเวลา นั่นคือ การจัดทำดัชนีเกิดขึ้น การจำแนกประเภทมีรูปแบบของรัฐและการโต้แย้ง กระบวนการนี้อาจมีสถานะหรือเวลาแบบไม่ต่อเนื่องหรือต่อเนื่องก็ได้ ยิ่งไปกว่านั้น กรณีต่างๆ ยังแตกต่างกัน: ทุกอย่างเกิดขึ้นในรูปแบบใดรูปแบบหนึ่งหรือในเวลาเดียวกัน

การวิเคราะห์โดยละเอียดเกี่ยวกับแนวคิดเรื่องการสุ่ม

มันค่อนข้างยากที่จะสร้างแบบจำลองทางคณิตศาสตร์ที่มีตัวบ่งชี้ประสิทธิภาพที่จำเป็นในรูปแบบการวิเคราะห์ที่ชัดเจน ในอนาคตให้นำไปปฏิบัติ งานนี้เป็นไปได้ เพราะกระบวนการสุ่มของมาร์คอฟเกิดขึ้น เมื่อวิเคราะห์แนวคิดนี้โดยละเอียด จำเป็นต้องมีทฤษฎีบทมา กระบวนการมาร์คอฟคือ ระบบทางกายภาพการเปลี่ยนตำแหน่งและสถานะซึ่งไม่ได้ตั้งโปรแกรมไว้ล่วงหน้า ปรากฎว่ามีกระบวนการสุ่มเกิดขึ้น ตัวอย่างเช่น: วงโคจรอวกาศและเรือที่พุ่งไปทางนั้น ผลลัพธ์ที่ได้เกิดขึ้นเนื่องจากความไม่ถูกต้องและการปรับเปลี่ยนบางประการเท่านั้น หากไม่มีสิ่งนี้ โหมดที่ระบุจะไม่ถูกนำมาใช้ กระบวนการที่กำลังดำเนินอยู่ส่วนใหญ่มีลักษณะเฉพาะคือการสุ่มและความไม่แน่นอน

ตามความเป็นจริงแล้ว เกือบทุกตัวเลือกที่สามารถพิจารณาได้จะอยู่ภายใต้ปัจจัยนี้ เครื่องบิน อุปกรณ์ทางเทคนิค ห้องรับประทานอาหาร นาฬิกา ทั้งหมดนี้อาจมีการเปลี่ยนแปลงแบบสุ่ม นอกจากนี้ ฟังก์ชั่นนี้อยู่ในกระบวนการใด ๆ ที่กำลังดำเนินอยู่ โลกแห่งความจริง- อย่างไรก็ตาม ตราบใดที่ไม่เกี่ยวข้องกับพารามิเตอร์ที่กำหนดค่าแยกกัน การรบกวนที่เกิดขึ้นจะถูกมองว่าเป็นสิ่งที่กำหนดได้

แนวคิดของกระบวนการสุ่มมาร์คอฟ

การออกแบบอุปกรณ์ทางเทคนิคหรือเครื่องกลใด ๆ บังคับให้ผู้สร้างต้องคำนึงถึง ปัจจัยต่างๆโดยเฉพาะความไม่แน่นอน การคำนวณความผันผวนและการรบกวนแบบสุ่มเกิดขึ้นในช่วงเวลาที่สนใจส่วนตัวเช่นเมื่อใช้ระบบอัตโนมัติ กระบวนการบางอย่างที่ศึกษาในสาขาวิทยาศาสตร์ เช่น ฟิสิกส์ และกลศาสตร์ ก็เป็นเช่นนี้

แต่การให้ความสนใจและการวิจัยอย่างละเอียดควรเริ่มต้นในเวลาที่จำเป็นทันที กระบวนการสุ่มของมาร์คอฟมีคำจำกัดความดังต่อไปนี้: ลักษณะความน่าจะเป็นของประเภทในอนาคตขึ้นอยู่กับสถานะที่อยู่ในช่วงเวลาที่กำหนด และไม่มีความสัมพันธ์กับรูปลักษณ์ของระบบ ดังนั้น, แนวคิดนี้บ่งบอกว่าสามารถคาดเดาผลลัพธ์ได้โดยคำนึงถึงความน่าจะเป็นเท่านั้นและลืมพื้นหลังไป

การตีความแนวคิดโดยละเอียด

ในขณะนี้ ระบบอยู่ในสถานะหนึ่ง กำลังเปลี่ยนแปลงและเปลี่ยนแปลง และโดยพื้นฐานแล้วเป็นไปไม่ได้เลยที่จะคาดเดาว่าจะเกิดอะไรขึ้นต่อไป แต่เมื่อพิจารณาถึงความน่าจะเป็นแล้วบอกได้เลยว่ากระบวนการจะแล้วเสร็จภายใน แบบฟอร์มบางอย่างหรือบันทึกอันก่อนหน้า คืออนาคตเกิดขึ้นจากปัจจุบันลืมอดีตไป เมื่อระบบหรือกระบวนการเข้าสู่สถานะใหม่ โดยปกติแล้วประวัติจะถูกละเว้น ความน่าจะเป็นมีบทบาทสำคัญในกระบวนการมาร์คอฟ

ตัวอย่างเช่น ตัวนับไกเกอร์จะแสดงจำนวนอนุภาค ซึ่งขึ้นอยู่กับตัวบ่งชี้บางตัว ไม่ใช่ช่วงเวลาที่อนุภาคมาถึงอย่างแน่นอน เกณฑ์หลักที่นี่คือเกณฑ์ข้างต้น ใน การประยุกต์ใช้จริงไม่เพียงแต่สามารถพิจารณากระบวนการมาร์คอฟได้ แต่ยังรวมถึงกระบวนการที่คล้ายกันด้วย เช่น เครื่องบินมีส่วนร่วมในการต่อสู้ของระบบ ซึ่งแต่ละกระบวนการถูกกำหนดด้วยสีบางอย่าง ใน ในกรณีนี้เกณฑ์หลักคือความน่าจะเป็นอีกครั้ง ตัวเลขจะได้เปรียบตรงจุดไหน สีอะไร ไม่ทราบ นั่นคือปัจจัยนี้ขึ้นอยู่กับสถานะของระบบ ไม่ใช่ลำดับการเสียชีวิตของเครื่องบิน

การวิเคราะห์โครงสร้างของกระบวนการ

กระบวนการมาร์คอฟคือสถานะใดๆ ของระบบโดยไม่มีผลกระทบที่น่าจะเป็นไปได้ และไม่คำนึงถึงประวัติก่อนหน้านี้ นั่นคือถ้าคุณรวมอนาคตไว้ในปัจจุบันและละเว้นอดีต ความอิ่มตัวของเวลาที่กำหนดกับยุคก่อนประวัติศาสตร์จะนำไปสู่ความหลากหลายมิติและส่งผลให้เกิดการสร้างโซ่ที่ซับซ้อน ดังนั้นจึงควรศึกษาระบบเหล่านี้จะดีกว่า วงจรง่ายๆด้วยพารามิเตอร์ตัวเลขที่น้อยที่สุด เป็นผลให้ตัวแปรเหล่านี้ได้รับการพิจารณาและกำหนดเงื่อนไขโดยปัจจัยบางประการ

ตัวอย่างของกระบวนการ Markov: อุปกรณ์ทางเทคนิคที่ใช้งานได้ซึ่งขณะนี้ใช้งานได้ ในสถานการณ์เช่นนี้ ความสนใจอยู่ที่ความเป็นไปได้ที่อุปกรณ์จะยังคงทำงานต่อไปเป็นระยะเวลานาน แต่ถ้าเรารับรู้ว่าอุปกรณ์นั้นถูกดีบั๊กแล้ว ตัวเลือกนี้จะไม่อยู่ในกระบวนการที่พิจารณาอีกต่อไป เนื่องจากไม่มีข้อมูลเกี่ยวกับระยะเวลาที่อุปกรณ์ใช้งานได้ก่อนหน้านี้และได้มีการซ่อมแซมหรือไม่ อย่างไรก็ตาม หากเราเสริมตัวแปรเวลาทั้งสองนี้และรวมไว้ในระบบ สถานะของตัวแปรนั้นก็สามารถจำแนกได้เป็น Markovian

คำอธิบายของสถานะไม่ต่อเนื่องและความต่อเนื่องของเวลา

แบบจำลองกระบวนการมาร์คอฟถูกใช้ในเวลาที่จำเป็นต้องละเลยประวัติศาสตร์ก่อนหน้านี้ สำหรับการวิจัยในทางปฏิบัติ มักพบสภาวะที่ไม่ต่อเนื่องและต่อเนื่องกันมากที่สุด ตัวอย่างของสถานการณ์ดังกล่าวได้แก่: โครงสร้างของอุปกรณ์ประกอบด้วยส่วนประกอบที่อาจเกิดข้อผิดพลาดได้ภายใต้สภาวะการทำงาน และเหตุการณ์นี้เกิดขึ้นเป็นการกระทำแบบสุ่มโดยไม่ได้วางแผนไว้ เป็นผลให้สถานะของระบบขึ้นอยู่กับการซ่อมแซมองค์ประกอบหนึ่งหรือองค์ประกอบอื่น ในขณะนี้ องค์ประกอบใดองค์ประกอบหนึ่งจะทำงานหรือทั้งสองอย่างจะถูกแก้ไขหรือในทางกลับกันจะถูกปรับอย่างสมบูรณ์

กระบวนการมาร์คอฟแบบแยกส่วนนั้นขึ้นอยู่กับทฤษฎีความน่าจะเป็นและเป็นการเปลี่ยนระบบจากสถานะหนึ่งไปอีกสถานะหนึ่งด้วย นอกจากนี้ ข้อเท็จจริงนี้การซ่อมแซมจะเกิดขึ้นทันที แม้ว่าอุบัติเหตุจะพังหรือซ่อมแซมก็ตาม ในการวิเคราะห์กระบวนการดังกล่าว ควรใช้กราฟสถานะจะดีกว่า โครงร่างทางเรขาคณิต- สถานะของระบบในกรณีนี้จะแสดงด้วยตัวเลขต่างๆ: สามเหลี่ยม สี่เหลี่ยม จุด ลูกศร

การสร้างแบบจำลองของกระบวนการนี้

กระบวนการมาร์คอฟที่มีสถานะแยกกันเป็นไปได้ในการปรับเปลี่ยนระบบอันเป็นผลมาจากการเปลี่ยนแปลงที่เกิดขึ้นในทันที และสามารถกำหนดหมายเลขได้ ตัวอย่างเช่น คุณสามารถสร้างกราฟสถานะจากลูกศรสำหรับโหนด ซึ่งแต่ละโหนดจะระบุเส้นทางของปัจจัยความล้มเหลว สภาพการทำงาน ฯลฯ ที่แตกต่างกัน ในอนาคตอาจมีคำถามใดๆ เกิดขึ้น: เช่นข้อเท็จจริงที่ว่าไม่ใช่ทั้งหมด องค์ประกอบทางเรขาคณิตระบุ ทิศทางที่ถูกต้องเพราะในกระบวนการนี้ ทุกโหนดสามารถเสื่อมสภาพได้ เมื่อทำงานจำเป็นต้องคำนึงถึงการลัดวงจรด้วย

กระบวนการ Markov ในเวลาต่อเนื่องเกิดขึ้นเมื่อข้อมูลไม่ได้รับการแก้ไขล่วงหน้า แต่จะเกิดขึ้นแบบสุ่ม การเปลี่ยนแปลงต่างๆ เกิดขึ้นโดยไม่ได้วางแผนไว้ก่อนหน้านี้และเกิดขึ้นแบบปะทุเมื่อใดก็ได้ ขอย้ำอีกครั้งว่าความน่าจะเป็นมีบทบาทสำคัญ อย่างไรก็ตาม หากสถานการณ์ปัจจุบันเกี่ยวข้องกับสิ่งที่กล่าวมาข้างต้น จำเป็นต้องมีการพัฒนาแบบจำลองทางคณิตศาสตร์เพื่ออธิบาย แต่สิ่งสำคัญคือต้องเข้าใจทฤษฎีความเป็นไปได้

ทฤษฎีความน่าจะเป็น

ทฤษฎีเหล่านี้พิจารณาถึงความน่าจะเป็นที่มี คุณสมบัติลักษณะเช่น ลำดับสุ่ม การเคลื่อนไหว และปัจจัย ปัญหาทางคณิตศาสตร์และไม่ใช่สิ่งที่กำหนดไว้ซึ่งแน่นอนเป็นครั้งคราว กระบวนการมาร์คอฟที่ได้รับการควบคุมนั้นมีปัจจัยความเป็นไปได้และขึ้นอยู่กับปัจจัยนั้น นอกจากนี้ ระบบนี้สามารถเปลี่ยนไปสู่สถานะใดๆ ได้ทันที เงื่อนไขที่แตกต่างกันและช่วงเวลา

หากต้องการนำทฤษฎีนี้ไปใช้ในทางปฏิบัติคุณต้องมีความรู้ ความรู้ที่สำคัญความน่าจะเป็นและการประยุกต์ของมัน ในกรณีส่วนใหญ่ ทุกคนจะตกอยู่ในสภาวะของความคาดหวัง ซึ่งโดยทั่วไปคือทฤษฎีที่เป็นปัญหา

ตัวอย่างทฤษฎีความน่าจะเป็น

ตัวอย่างของกระบวนการ Markov ในสถานการณ์นี้ได้แก่:

  • คาเฟ่;
  • สำนักงานขายตั๋ว;
  • ร้านซ่อม;
  • สถานีเพื่อวัตถุประสงค์ต่างๆ เป็นต้น

ตามกฎแล้ว ผู้คนพบกับระบบนี้ทุกวัน ปัจจุบันเรียกว่าการเข้าคิว ในสถานประกอบการที่มีบริการดังกล่าว คุณสามารถขอคำขอต่างๆ ที่ได้รับการตอบสนองในกระบวนการได้

แบบจำลองกระบวนการที่ซ่อนอยู่

โมเดลดังกล่าวเป็นแบบคงที่และคัดลอกการดำเนินการของกระบวนการดั้งเดิม ในกรณีนี้ คุณสมบัติหลักคือฟังก์ชันในการตรวจสอบพารามิเตอร์ที่ไม่รู้จักซึ่งต้องแก้ไข ด้วยเหตุนี้ องค์ประกอบเหล่านี้จึงสามารถนำไปใช้ในการวิเคราะห์ ฝึกฝน หรือจดจำวัตถุต่างๆ ได้ กระบวนการมาร์คอฟแบบทั่วไปนั้นขึ้นอยู่กับการเปลี่ยนแปลงและความน่าจะเป็นที่มองเห็นได้ ในแบบจำลองที่ซ่อนอยู่ จะสังเกตเฉพาะตัวแปรที่ไม่รู้จักซึ่งได้รับอิทธิพลจากสถานะเท่านั้น

การเปิดเผยที่สำคัญของโมเดล Markov ที่ซ่อนอยู่

นอกจากนี้ยังมีการแจกแจงความน่าจะเป็นระหว่างค่าอื่นๆ ด้วย ผลที่ผู้วิจัยจะเห็นลำดับของสัญลักษณ์และสถานะ การกระทำแต่ละรายการมีการแจกแจงความน่าจะเป็นระหว่างค่าอื่นๆ ดังนั้นโมเดลที่ซ่อนอยู่จึงให้ข้อมูลเกี่ยวกับสถานะตามลำดับที่สร้างขึ้น บันทึกและการกล่าวถึงครั้งแรกปรากฏในช่วงปลายอายุหกสิบเศษของศตวรรษที่ผ่านมา

จากนั้นจึงเริ่มใช้สำหรับการรู้จำเสียงพูดและวิเคราะห์ข้อมูลทางชีววิทยา นอกจากนี้ โมเดลที่ซ่อนอยู่ได้แพร่กระจายไปสู่การเขียน การเคลื่อนไหว และวิทยาการคอมพิวเตอร์ นอกจากนี้องค์ประกอบเหล่านี้ยังเลียนแบบการทำงานของกระบวนการหลักและเป็นแบบคงที่อย่างไรก็ตามถึงอย่างนี้ คุณสมบัติที่โดดเด่นมากขึ้น ข้อเท็จจริงนี้เกี่ยวข้องกับการสังเกตโดยตรงและการสร้างลำดับโดยเฉพาะ

กระบวนการมาร์คอฟนิ่ง

เงื่อนไขนี้มีอยู่สำหรับฟังก์ชันการเปลี่ยนผ่านที่เป็นเนื้อเดียวกัน เช่นเดียวกับการกระจายแบบคงที่ ซึ่งถือเป็นพื้นฐาน และตามคำจำกัดความ การกระทำแบบสุ่ม- พื้นที่เฟสสำหรับกระบวนการที่กำหนดนั้นเป็นเซตที่มีขอบเขตจำกัด แต่ในสภาวะนี้ ความแตกต่างเบื้องต้นยังคงมีอยู่เสมอ ความน่าจะเป็นของการเปลี่ยนแปลงในกระบวนการนี้จะพิจารณาภายใต้เงื่อนไขเวลาหรือองค์ประกอบเพิ่มเติม

การศึกษาโดยละเอียด แบบจำลองของมาร์คอฟและกระบวนการเผยให้เห็นประเด็นความสมดุลที่น่าพอใจในด้านต่างๆของชีวิตและกิจกรรมของสังคม เมื่อพิจารณาว่าอุตสาหกรรมนี้มีผลกระทบต่อวิทยาศาสตร์และ บริการมวลชนสถานการณ์สามารถแก้ไขได้โดยการวิเคราะห์และคาดการณ์ผลลัพธ์ของเหตุการณ์หรือการกระทำใดๆ ของนาฬิกาหรืออุปกรณ์ที่ชำรุดเดียวกัน หากต้องการใช้ความสามารถของกระบวนการ Markov อย่างเต็มที่คุณควรทำความเข้าใจในรายละเอียด ท้ายที่สุดแล้ว อุปกรณ์นี้พบการใช้งานที่หลากหลายไม่เพียงแต่ในด้านวิทยาศาสตร์ แต่ยังรวมถึงในเกมด้วย โดยปกติจะไม่พิจารณาระบบนี้ในรูปแบบบริสุทธิ์ และหากใช้ ระบบนี้จะอยู่บนพื้นฐานของแบบจำลองและไดอะแกรมที่กล่าวถึงข้างต้นเท่านั้น

ทฤษฎีการเข้าคิวเป็นหนึ่งในสาขาหนึ่งของทฤษฎีความน่าจะเป็น ทฤษฎีนี้ถือว่า ความน่าจะเป็นปัญหาและแบบจำลองทางคณิตศาสตร์ (ก่อนหน้านี้เราพิจารณาแบบจำลองทางคณิตศาสตร์ที่กำหนดขึ้นเอง) เราขอเตือนคุณว่า:

แบบจำลองทางคณิตศาสตร์เชิงกำหนดสะท้อนพฤติกรรมของวัตถุ (ระบบ กระบวนการ) จากมุมมอง มั่นใจเต็มที่ในปัจจุบันและอนาคต

แบบจำลองทางคณิตศาสตร์ความน่าจะเป็นคำนึงถึงอิทธิพลของปัจจัยสุ่มที่มีต่อพฤติกรรมของวัตถุ (ระบบ กระบวนการ) และดังนั้นจึงประเมินอนาคตจากมุมมองของความน่าจะเป็นของเหตุการณ์บางอย่าง

เหล่านั้น. ในที่นี้ ตัวอย่างเช่น ในการพิจารณาปัญหาทฤษฎีเกม ในเงื่อนไขความไม่แน่นอน.

ก่อนอื่นให้เราพิจารณาแนวคิดบางประการที่แสดงถึง "ความไม่แน่นอนของการสุ่ม" เมื่อปัจจัยที่ไม่แน่นอนที่รวมอยู่ในปัญหาคือตัวแปรสุ่ม (หรือฟังก์ชันสุ่ม) ซึ่งเป็นลักษณะความน่าจะเป็นที่ทราบหรือหาได้จากประสบการณ์ ความไม่แน่นอนดังกล่าวเรียกอีกอย่างว่า "เอื้ออำนวย" "ไม่เป็นพิษเป็นภัย"

แนวคิดของกระบวนการสุ่ม

พูดอย่างเคร่งครัด การรบกวนแบบสุ่มนั้นเกิดขึ้นได้ในทุกกระบวนการ การยกตัวอย่างกระบวนการสุ่มง่ายกว่ากระบวนการที่ "ไม่สุ่ม" ตัวอย่างเช่น กระบวนการเดินนาฬิกา (ดูเหมือนว่าจะเป็นงานที่ปรับเทียบอย่างเคร่งครัด - "ทำงานเหมือนนาฬิกา") อาจมีการเปลี่ยนแปลงแบบสุ่ม (ก้าวไปข้างหน้า ล้าหลัง หยุด) แต่ตราบใดที่การรบกวนเหล่านี้ไม่มีนัยสำคัญและมีผลเพียงเล็กน้อยต่อพารามิเตอร์ที่เราสนใจ เราก็สามารถละเลยสิ่งเหล่านั้นและพิจารณาว่ากระบวนการนี้เป็นสิ่งที่กำหนดได้ ไม่ใช่แบบสุ่ม

ให้มันมีระบบบ้าง. (อุปกรณ์ทางเทคนิค กลุ่มของอุปกรณ์ดังกล่าว ระบบเทคโนโลยี - เครื่องจักร ไซต์งาน เวิร์กช็อป องค์กร อุตสาหกรรม ฯลฯ) ในระบบ การรั่วไหล กระบวนการสุ่มถ้ามันเปลี่ยนสถานะเมื่อเวลาผ่านไป (ผ่านจากรัฐหนึ่งไปอีกรัฐหนึ่ง) ยิ่งไปกว่านั้นในลักษณะสุ่มที่ไม่รู้จักก่อนหน้านี้

ตัวอย่าง: 1. ระบบ – ระบบเทคโนโลยี (ส่วนเครื่องจักร) เครื่องจักรพังเป็นครั้งคราวและได้รับการซ่อมแซม กระบวนการที่เกิดขึ้นในระบบนี้เป็นแบบสุ่ม

2. ระบบ - เครื่องบินที่บินในระดับความสูงที่กำหนดตามเส้นทางเฉพาะ ปัจจัยที่รบกวน เช่น สภาพอากาศ ข้อผิดพลาดของลูกเรือ ฯลฯ ผลที่ตามมา - ความปั่นป่วน การละเมิดตารางการบิน ฯลฯ

กระบวนการสุ่มมาร์คอฟ

กระบวนการสุ่มที่เกิดขึ้นในระบบเรียกว่า มาร์คอฟสกี้หากช่วงเวลาใดเวลาหนึ่ง ที 0 ลักษณะความน่าจะเป็นของกระบวนการในอนาคตขึ้นอยู่กับสถานะของกระบวนการในขณะนั้นเท่านั้น ที 0 และไม่ได้ขึ้นอยู่กับว่าระบบจะไปถึงสถานะนี้เมื่อใดและอย่างไร

ปล่อยให้ระบบอยู่ในสถานะที่แน่นอนในขณะนี้ t 0 0 . เรารู้ถึงลักษณะของสถานะของระบบในปัจจุบันทุกอย่างที่เกิดขึ้นเมื่อใด ที<ที 0 (ประวัติกระบวนการ) เราสามารถทำนาย (ทำนาย) อนาคตได้หรือไม่ เช่น จะเกิดอะไรขึ้นเมื่อ ที>ที 0 ? ไม่แน่ชัด แต่ลักษณะความน่าจะเป็นของกระบวนการบางอย่างสามารถพบได้ในอนาคต เช่น ความน่าจะเป็นที่ระบบจะผ่านไประยะหนึ่ง จะสามารถ 1 หรือจะยังคงอยู่ในสถานะ 0 ฯลฯ

ตัวอย่าง- ระบบ - กลุ่มเครื่องบินที่เข้าร่วมในการรบทางอากาศ อนุญาต x– จำนวนเครื่องบิน “สีแดง” – จำนวนเครื่องบิน “สีน้ำเงิน” โดยตามเวลา ที 0 จำนวนเครื่องบินที่รอดชีวิต (ไม่ถูกยิงตก) ตามลำดับ – x 0 , 0 . เราสนใจในความน่าจะเป็นที่ ณ เวลานี้ ความเหนือกว่าเชิงตัวเลขจะอยู่ด้านข้างของ "สีแดง" ความน่าจะเป็นนี้ขึ้นอยู่กับสถานะของระบบในขณะนั้น ที 0 และไม่ใช่ว่าเมื่อใดและในลำดับใดผู้ถูกยิงเสียชีวิตจนถึงขณะนั้น ที 0 เครื่องบิน

ในทางปฏิบัติ กระบวนการมาร์คอฟในรูปแบบบริสุทธิ์มักจะไม่พบ แต่มีกระบวนการที่สามารถละเลยอิทธิพลของ "ยุคก่อนประวัติศาสตร์" ได้ และเมื่อศึกษากระบวนการดังกล่าวสามารถใช้แบบจำลองมาร์คอฟได้ (ทฤษฎีการเข้าคิวไม่ได้พิจารณาระบบการเข้าคิวของมาร์คอฟ แต่เครื่องมือทางคณิตศาสตร์ที่อธิบายสิ่งเหล่านี้นั้นซับซ้อนกว่ามาก)

ในการวิจัยการดำเนินงาน กระบวนการสุ่มของ Markov ที่มีสถานะไม่ต่อเนื่องและเวลาต่อเนื่องมีความสำคัญอย่างยิ่ง

กระบวนการนี้เรียกว่า กระบวนการของรัฐที่ไม่ต่อเนื่องถ้าเป็นไปได้ 1 , 2, ... สามารถกำหนดล่วงหน้าได้ และการเปลี่ยนแปลงของระบบจากสถานะหนึ่งไปอีกสถานะหนึ่งเกิดขึ้น "แบบก้าวกระโดด" เกือบจะในทันที

กระบวนการนี้เรียกว่า กระบวนการเวลาต่อเนื่องหากช่วงเวลาของการเปลี่ยนผ่านจากรัฐหนึ่งไปอีกรัฐหนึ่งที่เป็นไปได้ไม่ได้รับการแก้ไขล่วงหน้า แต่มีความไม่แน่นอน เป็นแบบสุ่ม และสามารถเกิดขึ้นได้ตลอดเวลา

ตัวอย่าง- ระบบเทคโนโลยี (ส่วน) ประกอบด้วยเครื่องจักรสองเครื่อง ซึ่งแต่ละเครื่องสามารถล้มเหลว (ล้มเหลว) ในช่วงเวลาสุ่ม หลังจากนั้นการซ่อมแซมหน่วยจะเริ่มต้นทันที ซึ่งดำเนินต่อไปโดยไม่ทราบเวลาสุ่ม สถานะของระบบต่อไปนี้เป็นไปได้:

0 - ทั้งสองเครื่องกำลังทำงาน

1 - เครื่องแรกกำลังได้รับการซ่อมแซม เครื่องที่สองกำลังทำงาน

2 - กำลังซ่อมแซมเครื่องที่สอง เครื่องแรกกำลังทำงาน

3 - ทั้งสองเครื่องอยู่ระหว่างการซ่อมแซม

การเปลี่ยนแปลงระบบ จากสถานะหนึ่งไปอีกสถานะหนึ่งเกิดขึ้นเกือบจะในทันทีในช่วงเวลาสุ่มเมื่อเครื่องจักรบางเครื่องล้มเหลวหรือการซ่อมแซมเสร็จสิ้น

เมื่อวิเคราะห์กระบวนการสุ่มที่มีสถานะแยกจะสะดวกในการใช้โครงร่างทางเรขาคณิต - กราฟสถานะ- จุดยอดของกราฟคือสถานะของระบบ ส่วนโค้งกราฟ – การเปลี่ยนที่เป็นไปได้จากสถานะเป็น

รูปที่ 1. กราฟสถานะระบบ

สถานะ. สำหรับตัวอย่างของเรา กราฟสถานะจะแสดงในรูปที่ 1

บันทึก. การเปลี่ยนจากรัฐ 0 นิ้ว 3 ไม่ได้ระบุในรูปเพราะว่า สันนิษฐานว่าเครื่องจักรล้มเหลวโดยแยกจากกัน เราละเลยความเป็นไปได้ที่จะเกิดความล้มเหลวพร้อมกันของทั้งสองเครื่อง

ซึ่งวิวัฒนาการหลังจากนั้นก็ตาม ตั้งค่าพารามิเตอร์เวลา t ไม่ได้ขึ้นอยู่กับวิวัฒนาการก่อนหน้า เสื้อโดยมีเงื่อนไขว่าคุณค่าของกระบวนการในขณะนี้ได้รับการแก้ไข (โดยย่อ: "อนาคต" และ "อดีต" ของกระบวนการไม่ขึ้นอยู่กับกันและกันด้วย "ปัจจุบัน" ที่รู้จัก)

โดยทั่วไปจะเรียกว่าคุณสมบัติที่กำหนดสนามแม่เหล็ก มาร์โคเวียน; คิดค้นขึ้นครั้งแรกโดย A.A. Markov อย่างไรก็ตาม ในงานของ L. Bachelier เราสามารถมองเห็นความพยายามในการตีความการเคลื่อนที่ของบราวเนียนว่าเป็นกระบวนการแม่เหล็ก ซึ่งเป็นความพยายามที่ได้รับการพิสูจน์หลังจากการวิจัยของ N. Wiener (N. Wiener, 1923) พื้นฐาน ทฤษฎีทั่วไปส.ส. ที่มีเวลาต่อเนื่องก่อตั้งโดย A. N. Kolmogorov

ทรัพย์สินของมาร์คอฟ มีคำจำกัดความของ M. ที่แตกต่างกันอย่างมีนัยสำคัญ ประการหนึ่งที่พบบ่อยที่สุดคือดังต่อไปนี้ เอาล่ะ พื้นที่ความน่าจะเป็นกระบวนการสุ่มที่มีค่าจากพื้นที่ที่วัดได้จะได้รับที่ไหน ที -เซตย่อยของแกนจริง อนุญาต นท(ตามลำดับ นท).มีพีชคณิต s อยู่ในนั้น สร้างขึ้นโดยปริมาณ X(s).at ที่ไหน กล่าวอีกนัยหนึ่ง นท(ตามลำดับ นท) คือชุดของเหตุการณ์ที่เกี่ยวข้องกับวิวัฒนาการของกระบวนการจนถึงโมเมนต์ t (เริ่มจาก t) . กระบวนการ X(t).เรียกว่า ประมวลผลมาร์คอฟหาก (เกือบจะแน่นอน) ทรัพย์สินของมาร์คอฟถือเป็นสำหรับทุกคน:

หรืออะไรจะเหมือนกันถ้ามี

M. รายการที่มี T อยู่ในชุด ตัวเลขธรรมชาติ, เรียกว่า ห่วงโซ่มาร์คอฟ(อย่างไรก็ตาม คำหลังมักเกี่ยวข้องกับกรณีของ E ที่นับได้มากที่สุด) . ถ้า เป็นช่วงมากกว่าที่นับได้ เรียกว่า M. ห่วงโซ่มาร์คอฟเวลาต่อเนื่อง ตัวอย่างของกระบวนการแม่เหล็กเวลาต่อเนื่องได้มาจากกระบวนการแพร่และกระบวนการที่มีการเพิ่มขึ้นอย่างอิสระ รวมถึงกระบวนการปัวซองและวีเนอร์

ในอนาคตเพื่อความแน่นอนเราจะพูดถึงเฉพาะกรณีของสูตร (1) และ (2) เท่านั้นที่ให้การตีความหลักการความเป็นอิสระของ "อดีต" และ "อนาคต" อย่างชัดเจนด้วย "ปัจจุบัน" ที่รู้จัก แต่ คำจำกัดความของ M. p. ขึ้นอยู่กับพวกเขากลายเป็นความยืดหยุ่นไม่เพียงพอในสถานการณ์ต่าง ๆ เหล่านั้นเมื่อจำเป็นต้องพิจารณาไม่ใช่อย่างใดอย่างหนึ่ง แต่เป็นชุดของเงื่อนไขประเภท (1) หรือ (2) ซึ่งสอดคล้องกับความแตกต่างแม้ว่าจะตกลงกันไว้ก็ตาม ในทางใดทางหนึ่ง การพิจารณาในลักษณะนี้นำไปสู่การยอมรับคำจำกัดความต่อไปนี้ (ดู)

ให้ได้รับสิ่งต่อไปนี้:

ก) พื้นที่ที่วัดได้ซึ่งพีชคณิต s มีเซตจุดเดียวทั้งหมดใน E

b) พื้นที่ที่สามารถวัดได้พร้อมกับตระกูล s-algebras เช่นว่า if

c) ฟังก์ชั่น (“ วิถี”) x เสื้อ = xที(ญ) , การกำหนดสำหรับการแมปที่สามารถวัดผลได้

d) สำหรับการวัดความน่าจะเป็นแต่ละรายการในพีชคณิตแบบ s เพื่อให้ฟังก์ชันสามารถวัดได้โดยคำนึงถึง if และ

ชุดชื่อ (ไม่สิ้นสุด) กระบวนการมาร์คอฟที่กำหนดไว้ใน if -เกือบแน่นอน

สิ่งที่พวกเขาอยู่ที่นี่คืออวกาศ เหตุการณ์เบื้องต้น, - พื้นที่เฟสหรือพื้นที่รัฐ, P( ส, x, ที, วี)- ฟังก์ชั่นการเปลี่ยนแปลงหรือความน่าจะเป็นของการเปลี่ยนแปลงกระบวนการ X(t) . ถ้า E มีโทโพโลยีและเป็นชุดของ Borel เข้ามา อีเป็นเรื่องปกติที่จะบอกว่าให้ M.p อี.โดยทั่วไปแล้ว คำจำกัดความของ M.p. จะรวมถึงข้อกำหนดที่จากนั้นจึงตีความว่าเป็นความน่าจะเป็น โดยมีเงื่อนไขว่า x ส = x

คำถามเกิดขึ้น: ทุกฟังก์ชันการเปลี่ยนแปลงของมาร์คอฟ P( ส, x;ที, วี), ที่ให้ไว้ในปริภูมิที่วัดได้ถือได้ว่าเป็นฟังก์ชันการเปลี่ยนผ่านของปริภูมิ M. ที่แน่นอน คำตอบจะเป็นค่าบวก ตัวอย่างเช่น ถ้า E เป็นปริภูมิที่มีขนาดกะทัดรัดเฉพาะที่แยกจากกัน และเป็นชุดของเซตบอเรลใน อี.นอกจากนี้ให้ อี -เมตริกเต็ม พื้นที่และปล่อยให้

สำหรับใครก็ตามที่

เอ - ส่วนเสริมของ e-ย่านใกล้เคียงของจุด เอ็กซ์จากนั้นสนามแม่เหล็กที่สอดคล้องกันสามารถพิจารณาต่อเนื่องทางด้านขวาและมีข้อ จำกัด ทางด้านซ้าย (นั่นคือสามารถเลือกวิถีการเคลื่อนที่ได้) การมีอยู่ของสนามแม่เหล็กต่อเนื่องนั้นมั่นใจได้จากเงื่อนไขที่ (ดู ) ในทฤษฎีกระบวนการทางกล ความสนใจหลักจะจ่ายให้กับกระบวนการที่เป็นเนื้อเดียวกัน (ทันเวลา) คำจำกัดความที่เกี่ยวข้องหมายถึง ระบบที่กำหนด วัตถุ a) - d) ด้วยความแตกต่างที่สำหรับพารามิเตอร์ s และ u ที่ปรากฏในคำอธิบายตอนนี้อนุญาตให้ใช้เฉพาะค่า 0 เท่านั้น สัญกรณ์ก็ง่ายขึ้นเช่นกัน:

นอกจากนี้ ความเป็นเนื้อเดียวกันของช่องว่าง W ได้รับการตั้งสมมุติฐาน นั่นคือ จำเป็นสำหรับสิ่งใด ๆ ที่มีอยู่เช่นนั้น (w) สำหรับ ด้วยเหตุนี้ บน s-พีชคณิต ยังไม่มีข้อความ s-พีชคณิตที่เล็กที่สุดใน W ที่มีเหตุการณ์ใดๆ ในรูปแบบ ให้ตัวดำเนินการเปลี่ยนเวลา q ทีซึ่งรักษาการดำเนินการของสหภาพ การแยกและการลบของเซตและเพื่ออะไร

ชุดชื่อ กระบวนการมาร์คอฟที่เป็นเนื้อเดียวกัน (ไม่สิ้นสุด) กำหนดไว้ใน if -เกือบแน่นอน

สำหรับฟังก์ชันการเปลี่ยนผ่านของกระบวนการ X(t).ถือว่า P( เสื้อ, x, วี) และเว้นแต่จะมีการจองเป็นพิเศษ พวกเขายังต้องการเพิ่มเติมว่า โปรดทราบว่าเมื่อตรวจสอบ (4) ก็เพียงพอที่จะพิจารณาเฉพาะชุดของแบบฟอร์ม ที่ไหน และอะไรใน (4) เสมอ ฟุตสามารถแทนที่ด้วยพีชคณิต s เท่ากับจุดตัดของความสำเร็จ ฟุตสำหรับการวัดที่เป็นไปได้ทั้งหมด บ่อยครั้ง การวัดความน่าจะเป็น m ("การแจกแจงเริ่มต้น") ได้รับการแก้ไขและ Markov ฟังก์ชั่นสุ่มอยู่ที่ไหนเป็นหน่วยวัด มอบให้ด้วยความเท่าเทียมกัน

เอ็ม.พี.โทรมา. สามารถวัดได้อย่างต่อเนื่องหากทุกๆ t>0 ฟังก์ชันทำให้เกิดการแมปที่วัดได้ โดยที่ s-พีชคณิตอยู่ที่ไหน

เซตย่อยของโบเรลใน . สมาชิกสภาผู้แทนราษฎรอย่างต่อเนื่องสามารถวัดผลได้อย่างต่อเนื่อง มีวิธีลดกรณีที่ต่างกันให้เป็นเนื้อเดียวกัน (ดู) และต่อไปนี้เราจะพูดถึง ส.ส. ที่เป็นเนื้อเดียวกัน

ทรัพย์สิน Markov อย่างเคร่งครัดให้มีพื้นที่ที่สามารถวัดผลได้

ฟังก์ชันนี้เรียกว่า ช่วงเวลาของมาร์คอฟถ้า สำหรับทุกคน ในกรณีนี้ เซตนี้จัดอยู่ในตระกูล F t ถ้าที่ (ส่วนใหญ่มักจะตีความ F t ว่าเป็นเซตของเหตุการณ์ที่เกี่ยวข้องกับวิวัฒนาการของ X(t) จนถึงโมเมนต์ t) เพราะเชื่อ

M.p. Xnaz ที่วัดได้อย่างต่อเนื่อง กระบวนการ Markov อย่างเคร่งครัด (s.m.p. ) หากเป็นช่วงเวลา Markov ใด ๆ m และทั้งหมดและความสัมพันธ์

(ทรัพย์สินของมาร์คอฟอย่างเคร่งครัด) เกือบจะอยู่ในฉาก W t อย่างแน่นอน เมื่อตรวจสอบ (5) ก็เพียงพอแล้วที่จะพิจารณาเฉพาะชุดของรูปแบบ ซึ่งในกรณีนี้ สเปซสมมาตรคือ สเปซมิติเฟลเลอเรียนที่ต่อเนื่องขวาใดๆ ในทอพอโลยี ช่องว่าง อี.เอ็ม.พี.โทรมา. กระบวนการ Feller Markov หากฟังก์ชัน

จะต่อเนื่องเมื่อ f ต่อเนื่องและมีขอบเขต

ในชั้นเรียนด้วย mp คลาสย่อยบางอันมีความโดดเด่น ปล่อยให้ฟังก์ชันการเปลี่ยนผ่านของมาร์คอฟ P( เสื้อ, x, วี), กำหนดไว้ในหน่วยเมตริกในพื้นที่กะทัดรัด อีต่อเนื่องกันแบบสุ่ม:

สำหรับย่านใกล้เคียง U ใดๆ ของแต่ละจุด จากนั้นหากตัวดำเนินการรับคลาสของฟังก์ชันต่อเนื่องที่หายไปที่ระยะอนันต์ แล้วฟังก์ชัน P( เสื้อ, x, วี) ตรงตามมาตรฐาน M.p. เอ็กซ์,คือต่อเนื่องไปทางขวาด้วย MP ซึ่ง

และ - เกือบจะแน่นอนในฉาก - ช่วงเวลาของ Pmarkov ที่ไม่ลดลงตามการเติบโต

ยุติกระบวนการมาร์คอฟบ่อยครั้งทางกายภาพ ขอแนะนำให้อธิบายระบบโดยใช้สนามแม่เหล็กที่ไม่สิ้นสุด แต่เฉพาะในช่วงเวลาที่สุ่มเท่านั้น นอกจากนี้ แม้แต่การเปลี่ยนแปลง MP อย่างง่าย ๆ ก็สามารถนำไปสู่กระบวนการที่มีวิถีโคจรระบุไว้ได้ ช่วงเวลาสุ่ม(ซม. "ฟังก์ชั่น"จากกระบวนการมาร์คอฟ) เมื่อคำนึงถึงข้อพิจารณาเหล่านี้ จึงมีการนำแนวคิดเรื่องส.ส.ที่เสียหายมาใช้

อนุญาต เป็นสนามแม่เหล็กที่เป็นเนื้อเดียวกันในปริภูมิเฟสที่มีฟังก์ชันการเปลี่ยนผ่าน และปล่อยให้มีจุดและฟังก์ชันเช่นนั้น สำหรับ และอย่างอื่น (หากไม่มีการจองพิเศษ ให้พิจารณา ) วิถีใหม่ xt(w) ระบุเฉพาะสำหรับ ) โดยความเท่าเทียมกัน a ฟุตถูกกำหนดให้เป็นร่องรอยในชุด

กำหนดตำแหน่งที่เรียกว่า โดยกระบวนการยุติมาร์คอฟ (o.m.p.) ซึ่งได้มาจากการยกเลิก (หรือการฆ่า) ในเวลา z เรียกว่าค่า z ช่วงเวลาแห่งการหยุดพักหรือช่วงเวลาแห่งชีวิต MP สเปซเฟสของกระบวนการใหม่คือจุดที่มีร่องรอยของพีชคณิตอยู่ในนั้น อี.ฟังก์ชันการเปลี่ยนผ่าน o mp เป็นข้อจำกัดของกระบวนการ X(t) ที่ตั้งไว้ กระบวนการมาร์คอฟอย่างเคร่งครัด หรือกระบวนการมาร์คอฟมาตรฐาน หากมีคุณสมบัติที่เกี่ยวข้องกัน MP ที่ไม่สิ้นสุดจะถือเป็น o m.p. ด้วยช่วงเวลาแห่งการแตกหัก o MP ถูกกำหนดในลักษณะเดียวกัน ม.

กระบวนการมาร์คอฟและสมการเชิงอนุพันธ์ประเภทเอ็มพี การเคลื่อนไหวแบบบราวเนียนมีความสัมพันธ์อย่างใกล้ชิดกับสมการเชิงอนุพันธ์พาราโบลา พิมพ์. ความหนาแน่นของการเปลี่ยนผ่าน p(s, x, เสื้อ, ย).กระบวนการแพร่กระจายเป็นไปตามสมมติฐานเพิ่มเติมบางประการสมการเชิงอนุพันธ์ของ Kolmogorov แบบผกผันและแบบตรง:

ฟังก์ชั่น พี( ส, x, เสื้อ, ย).เป็นฟังก์ชันของสมการ (6) - (7) ของกรีนและเป็นฟังก์ชันแรก วิธีการที่ทราบการสร้างกระบวนการแพร่ขึ้นอยู่กับทฤษฎีบทของการมีอยู่ของฟังก์ชันนี้สำหรับสมการเชิงอนุพันธ์ (6) - (7) สำหรับกระบวนการที่เป็นเนื้อเดียวกันตรงเวลา ผู้ปฏิบัติงาน L( ส, x)= ล(x).บน ฟังก์ชั่นที่ราบรื่นตรงกับลักษณะเฉพาะ ผู้ดำเนินการ M. p. (ดู "กลุ่มกึ่งผู้ประกอบการเปลี่ยนผ่าน").

คณิตศาสตร์. ความคาดหวังของฟังก์ชันต่างๆ จากกระบวนการแพร่ทำหน้าที่เป็นวิธีแก้ปัญหาค่าขอบเขตที่สอดคล้องกันสำหรับสมการเชิงอนุพันธ์ (1) อนุญาต - ทางคณิตศาสตร์ ความคาดหวัง ณ วัด จากนั้นฟังก์ชันจะตอบสนองที่ สมการ (6) และเงื่อนไข

ในทำนองเดียวกันฟังก์ชั่น

พอใจกับ สมการ

และเงื่อนไขและ 2 ( ที,เอ็กซ์) = 0.

ให้ tt เป็นช่วงเวลาที่ถึงขอบเขตเป็นครั้งแรก ดีดีภูมิภาค วิถีกระบวนการ จากนั้นภายใต้เงื่อนไขบางประการ ฟังก์ชัน

เป็นไปตามสมการ

และรับค่า cp บนเซต

คำตอบของปัญหาค่าขอบเขตที่ 1 สำหรับพาราโบลาเชิงเส้นทั่วไป สมการลำดับที่ 2

ภายใต้สมมติฐานที่ค่อนข้างทั่วไปสามารถเขียนได้ในรูปแบบ

ในกรณีที่ตัวดำเนินการ L และฟังก์ชัน ส, ฉไม่ต้องพึ่ง ส,การแทนค่าที่คล้ายกับ (9) ก็เป็นไปได้เช่นกันสำหรับการแก้วงรีเชิงเส้น สมการ แม่นยำยิ่งขึ้นคือฟังก์ชัน

ภายใต้สมมติฐานบางประการมีวิธีแก้ไขปัญหา

ในกรณีที่ตัวดำเนินการ L เสื่อม (del b( ส, x) = 0 ).หรือเส้นขอบ ดีดียังไม่ “ดี” เพียงพอ ค่าขอบเขตอาจไม่ได้รับการยอมรับจากฟังก์ชัน (9), (10) ที่แต่ละจุดหรือทั้งชุด แนวคิดของจุดขอบเขตปกติสำหรับตัวดำเนินการ มีการตีความความน่าจะเป็น ที่จุดปกติของขอบเขต ค่าขอบเขตจะได้มาจากฟังก์ชัน (9), (10) การแก้ปัญหา (8), (11) ช่วยให้เราสามารถศึกษาคุณสมบัติของกระบวนการแพร่กระจายและหน้าที่ของมันได้

มีวิธีการสร้าง MP ที่ไม่ต้องใช้การสร้างคำตอบของสมการ (6), (7) เป็นต้น วิธี สมการเชิงอนุพันธ์สุ่มการเปลี่ยนแปลงการวัดอย่างต่อเนื่องอย่างแน่นอน เป็นต้น กรณีนี้เมื่อประกอบกับสูตร (9) (10) ทำให้เราสามารถสร้างและศึกษาคุณสมบัติของปัญหาค่าขอบเขตสำหรับสมการ (8) ได้อย่างน่าจะเป็น ตลอดจนคุณสมบัติของการแก้ของ รูปไข่ที่สอดคล้องกัน สมการ

เนื่องจากการแก้สมการเชิงอนุพันธ์สุ่มนั้นไม่ไวต่อความเสื่อมของเมทริกซ์ b( ส, x), ที่วิธีความน่าจะเป็นถูกนำมาใช้เพื่อสร้างคำตอบเพื่อลดสมการเชิงอนุพันธ์วงรีและพาราโบลา การขยายหลักการหาค่าเฉลี่ยของ N. M. Krylov และ N. N. Bogolyubov ไปสู่สมการเชิงอนุพันธ์สุ่มทำให้เป็นไปได้โดยใช้ (9) เพื่อให้ได้ผลลัพธ์ที่สอดคล้องกันสำหรับสมการเชิงอนุพันธ์วงรีและพาราโบลา ปรากฎว่ามันเป็นไปได้ที่จะแก้ปัญหายาก ๆ ในการศึกษาคุณสมบัติของการแก้สมการประเภทนี้ด้วยพารามิเตอร์ขนาดเล็กที่อนุพันธ์สูงสุดโดยใช้การพิจารณาความน่าจะเป็น การแก้โจทย์ค่าขอบเขตที่ 2 ของสมการ (6) ก็มีความหมายความน่าจะเป็นเช่นกัน การกำหนดปัญหาค่าขอบเขตสำหรับโดเมนที่ไม่มีขอบเขตนั้นมีความสัมพันธ์อย่างใกล้ชิดกับการเกิดซ้ำของกระบวนการแพร่กระจายที่สอดคล้องกัน

ในกรณีของกระบวนการที่เป็นเนื้อเดียวกันตามเวลา (L ไม่ได้ขึ้นอยู่กับ s) การแก้สมการที่เป็นบวกจนถึงค่าคงที่การคูณจะเกิดขึ้นพร้อมกันภายใต้สมมติฐานบางประการกับ ความหนาแน่นคงที่การแจกแจงของ MP การพิจารณาความน่าจะเป็นยังมีประโยชน์เมื่อพิจารณาปัญหาค่าขอบเขตสำหรับพาราโบลาแบบไม่เชิงเส้น สมการ ร. 3. คาสมินสกี้

สว่าง: Markov A. A. , "Izvestia. Phys.-Mathematics Society of Kazan University", 2449, เล่ม 15, ฉบับที่ 4, หน้า 135-56; V a s he l i e r L., "Ann. วิทยาศาสตร์. Ecole norm, super.", 1900, v. 17, น. 21-86; Kolmogorov A.N. , "คณิตศาสตร์แอน", 2474, Bd 104, S. 415-458; มาตุภูมิ ทรานส์ - "Uspekhi Matematicheskikh Nauk", 2481 ศตวรรษ 5, น. 5-41; จุนเค ไอไล โซ่ที่เป็นเนื้อเดียวกันมาร์โควา, ต่อ. จากภาษาอังกฤษ ม. 2507; R e 1 1 e r W., "Ann. Math.", 1954, v. 60, น. 417-36; Dynkin E.B., Yushkevich A.A., “ทฤษฎีความน่าจะเป็นและการประยุกต์” 1956 เล่ม 1 ศตวรรษ 1, น. 149-55; Xant J.-A. กระบวนการและศักยภาพของมาร์คอฟ ทรานส์ จากภาษาอังกฤษ ม. 2505; D e l a s he r i K. ความจุและกระบวนการสุ่ม ทรานส์ จากฝรั่งเศส ม. 2518; Dynk และ E.V. รากฐานของทฤษฎีกระบวนการ Markov, M. , 1959; เขา กระบวนการ Markov, M. , 1963; G และ h man I. I. , S k o r o x o d A. V. , ทฤษฎีกระบวนการสุ่ม, เล่ม 2, M. , 1973; Freidlin M.I. ในหนังสือ: ผลลัพธ์ของวิทยาศาสตร์ ทฤษฎีความน่าจะเป็น สถิติทางคณิตศาสตร์- - ไซเบอร์เนติกส์เชิงทฤษฎี พ.ศ. 2509 ม. 2510 หน้า 7-58; X a s minskiy R. 3. “ทฤษฎีความน่าจะเป็นและการประยุกต์” 1963 เล่ม 8 . 1, น. 3-25; Ventzel A.D., Freidlin M.I., ความผันผวนใน ระบบไดนามิกภายใต้อิทธิพลของการรบกวนแบบสุ่มเล็กน้อย M. , 1979; Blumenthal R. M. , G e t o r. K. , กระบวนการ Markov และทฤษฎีที่เป็นไปได้, N.Y.-L. , 1968; Getоor R. K. , กระบวนการ Markov: กระบวนการ Ray และกระบวนการที่ถูกต้อง, V. , 1975; Kuznetsov S.E. “ทฤษฎีความน่าจะเป็นและการประยุกต์” 1980 เล่มที่ 25 ศตวรรษ 2, น. 389-93.