一、竞态条件
1. 问题描述
定义:当多个线程访问和修改共享资源时,可能会出现竞态条件(Race Condition),导致数据不一致或错误的行为。
示例:两个线程同时读取和更新同一个变量,可能导致其中一个线程的更新被另一个线程覆盖。
2. 解决方法
同步机制:
threading.Lock:使用 threading.Lock 来锁定代码块,确保同一时间只有一个线程可以执行该代码块。
threading.RLock:可重入锁,允许同一个线程多次获取同一个锁。
原子操作:使用 threading.atomic 包中的原子类(如 atomic.AtomicInteger)来进行原子操作,避免竞态条件。
示例代码:
import threading
class Counter:
def __init__(self):
self.count = 0
self.lock = threading.Lock()
def increment(self):
with self.lock:
self.count += 1
def get_count(self):
return self.count
# 测试
counter = Counter()
threads = []
for _ in range(100):
t = threading.Thread(target=counter.increment)
threads.append(t)
t.start()
for t in threads:
t.join()
print(f"Final count: {counter.get_count()}")
二、死锁
1. 问题描述
定义:如果两个或多个线程互相等待对方释放资源,就会发生死锁(Deadlock),导致所有相关线程都无法继续执行。
示例:线程 A 持有资源 X 并请求资源 Y,而线程 B 持有资源 Y 并请求资源 X,这样两个线程都会无限期地等待对方释放资源。
2. 解决方法
遵循原则:
避免循环等待:按照一定的顺序获取资源,避免循环等待。
设置超时:使用带有超时机制的锁(如 try_acquire 方法),在一定时间内无法获取锁时放弃并重试。
检测和恢复:定期检测系统状态,发现死锁后通过重启线程或释放资源来恢复。
示例代码:
import threading
def method1(lock1, lock2):
with lock1:
print("Thread 1: Acquired lock1")
with lock2:
print("Thread 1: Acquired lock2")
def method2(lock1, lock2):
with lock2:
print("Thread 2: Acquired lock2")
with lock1:
print("Thread 2: Acquired lock1")
# 创建锁
lock1 = threading.Lock()
lock2 = threading.Lock()
# 创建线程
t1 = threading.Thread(target=method1, args=(lock1, lock2))
t2 = threading.Thread(target=method2, args=(lock1, lock2))
# 启动线程
t1.start()
t2.start()
# 等待线程结束
t1.join()
t2.join()
为了避免死锁,可以调整锁的获取顺序,或者使用超时机制:
import threading
def method1(lock1, lock2):
if lock1.acquire(timeout=1):
try:
print("Thread 1: Acquired lock1")
if lock2.acquire(timeout=1):
try:
print("Thread 1: Acquired lock2")
finally:
lock2.release()
finally:
lock1.release()
def method2(lock1, lock2):
if lock2.acquire(timeout=1):
try:
print("Thread 2: Acquired lock2")
if lock1.acquire(timeout=1):
try:
print("Thread 2: Acquired lock1")
finally:
lock1.release()
finally:
lock2.release()
# 创建锁
lock1 = threading.Lock()
lock2 = threading.Lock()
# 创建线程
t1 = threading.Thread(target=method1, args=(lock1, lock2))
t2 = threading.Thread(target=method2, args=(lock1, lock2))
# 启动线程
t1.start()
t2.start()
# 等待线程结束
t1.join()
t2.join()
三、资源争抢
1. 问题描述
定义:在多线程环境中,资源(如内存、文件、数据库连接等)可能会成为瓶颈,导致性能下降或资源耗尽。
示例:多个线程同时请求数据库连接,但连接池大小有限,导致部分线程无法获取连接。
2. 解决方法
资源管理:
连接池:使用连接池(如 sqlite3 的连接池)来管理数据库连接,确保连接的复用和高效分配。
线程池:使用线程池(如 concurrent.futures.ThreadPoolExecutor)来管理线程,控制并发线程数量,避免资源耗尽。
限流:通过限流(如令牌桶算法)来控制对资源的访问频率,防止资源过载。
示例代码:
import sqlite3
import concurrent.futures
import threading
# 数据库连接池
connection_pool = []
pool_size = 5
# 初始化连接池
def init_connection_pool():
for _ in range(pool_size):
conn = sqlite3.connect(':memory:')
connection_pool.append(conn)
# 获取连接
def get_connection_from_pool():
with pool_lock:
if connection_pool:
return connection_pool.pop()
else:
return None
# 释放连接
def release_connection_to_pool(conn):
with pool_lock:
connection_pool.append(conn)
# 处理请求
def process_request(request_id):
conn = get_connection_from_pool()
if conn:
try:
cursor = conn.cursor()
cursor.execute("CREATE TABLE IF NOT EXISTS test (id INTEGER PRIMARY KEY, value TEXT)")
cursor.execute("INSERT INTO test (value) VALUES (?)", (f"Request {request_id}",))
conn.commit()
except Exception as e:
print(f"Error: {e}")
finally:
release_connection_to_pool(conn)
# 初始化连接池
init_connection_pool()
# 线程池
executor = concurrent.futures.ThreadPoolExecutor(max_workers=10)
# 提交任务
requests = [i for i in range(100)]
for request in requests:
executor.submit(process_request, request)
# 等待所有任务完成
executor.shutdown(wait=True)
四、并发数据一致性
1. 问题描述
定义:在并发环境下,数据的一致性可能会受到影响,导致数据状态不一致或行为不符合预期。
示例:多个线程同时读取和写入同一个数据结构,导致数据状态混乱。
2. 解决方法
事务管理:
数据库事务:使用数据库事务(如 SQLite 的事务)来确保数据的一致性。
编程事务:在应用层使用事务管理器(如上下文管理器)来管理事务。
示例代码:
import sqlite3
import threading
# 数据库连接
conn = sqlite3.connect(':memory:')
cursor = conn.cursor()
# 创建表
cursor.execute("CREATE TABLE IF NOT EXISTS test (id INTEGER PRIMARY KEY, value TEXT)")
conn.commit()
# 事务管理
def update_value(value):
with conn:
cursor = conn.cursor()
cursor.execute("INSERT INTO test (value) VALUES (?)", (value,))
# 如果任何一步失败,事务将回滚
# 创建线程
threads = []
for i in range(100):
t = threading.Thread(target=update_value, args=(f"Value {i}",))
threads.append(t)
t.start()
# 等待所有线程结束
for t in threads:
t.join()
# 查询结果
cursor.execute("SELECT * FROM test")
rows = cursor.fetchall()
for row in rows:
print(row)
并发控制:
乐观锁:使用版本号或时间戳来实现乐观锁,确保数据在并发修改时的一致性。
悲观锁:使用数据库的行级锁(如 SELECT ... FOR UPDATE)来实现悲观锁,确保数据在并发读取和写入时的一致性。
示例代码:
import sqlite3
import threading
# 数据库连接
conn = sqlite3.connect(':memory:')
cursor = conn.cursor()
# 创建表
cursor.execute("CREATE TABLE IF NOT EXISTS test (id INTEGER PRIMARY KEY, value TEXT, version INTEGER DEFAULT 0)")
conn.commit()
# 乐观锁
def update_value_optimistic(id, value, expected_version):
with conn:
cursor = conn.cursor()
cursor.execute("UPDATE test SET value = ?, version = version + 1 WHERE id = ? AND version = ?", (value, id, expected_version))
if cursor.rowcount == 0:
raise Exception("Optimistic lock failed")
# 创建线程
def worker(id, value):
while True:
cursor.execute("SELECT value, version FROM test WHERE id = ?", (id,))
row = cursor.fetchone()
if row:
current_value, current_version = row
try:
update_value_optimistic(id, value, current_version)
break
except Exception as e:
print(f"Worker {id}: {e}")
# 初始化数据
cursor.execute("INSERT INTO test (id, value) VALUES (?, ?)", (1, "Initial Value"))
conn.commit()
# 创建线程
threads = []
for i in range(10):
t = threading.Thread(target=worker, args=(1, f"Value {i}"))
threads.append(t)
t.start()
# 等待所有线程结束
for t in threads:
t.join()
# 查询结果
cursor.execute("SELECT * FROM test")
row = cursor.fetchone()
print(row)
总结
通过以上方法,可以在多线程环境下有效地处理竞态条件、死锁、资源争抢和并发数据一致性等问题,确保测试的正确性和稳定性。希望这些内容对你有所帮助!