你也是数独爱好者吗？
Aakash Jhawar和许多人一样，乐于挑战新的难题。上学的时候，他每天早上都要玩数独。长大后，随着科技的进步，我们可以让计算机来帮我们解数独了！只需要点击数独的图片，它就会为你填满全部九宫格。
叮~ 这里有一份数独解析教程，等待你查收~ 喜欢收藏硬核干货的小伙伴看过来~
我们都知道，数独由9×9的格子组成，每行、列、宫各自都要填上1-9的数字，要做到每行、列、宫里的数字都不重复。
可以将解析数独的整个过程分成3步：
第一步：从图像中提取数独
第二步：提取图像中出现的每个数字
第三步：用算法计算数独的解
第一步：从图像中提取数独
首先需要进行图像处理。
1、对图像进行预处理
首先，我们应用高斯模糊的内核大小(高度，宽度)为9的图像。注意，内核大小必须是正的和奇数的，并且内核必须是平方的。然后使用11个最近邻像素自适应阈值。
- proc = cv2.GaussianBlur（img.copy（），（9，9），0）
- proc = cv2.adaptiveThreshold（proc，255，cv2.ADAPTIVE_THRESH_GAUSSIAN_C，cv2.THRESH_BINARY，11，2）
为了使网格线具有非零像素值，我们颠倒颜色。此外，把图像放大，以增加网格线的大小。
- proc = cv2.bitwise_not（proc，proc）
- kernel = np.array（[[0。，1.，0.]，[1.，1.，1.]，[0.，1.，0.]] ，np.uint8）
- proc = cv2.dilate（proc，kernel）
阈值化后的数独图像
2、找出最大多边形的角
下一步是寻找图像中最大轮廓的4个角。所以需要找到所有的轮廓线，按面积降序排序，然后选择面积最大的那个。
- _, contours, h = cv2.findContours(img.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
- contours = sorted(contours, key=cv2.contourArea, reverse=True)
- polygon = contours[0]
使用的操作符。带有max和min的itemgetter允许我们获得该点的索引。每个点都是有1个坐标的数组，然后[0]和[1]分别用于获取x和y。
右下角点具有最大的(x + y)值；左上角有点最小(x + y)值；左下角则具有最小的(x - y)值；右上角则具有最大的(x - y)值。
- bottom_right, _ = max(enumerate([pt[0][0] + pt[0][1] for pt in
- polygon]), key=operator.itemgetter(1))
- top_left, _ = min(enumerate([pt[0][0] + pt[0][1] for pt in
- polygon]), key=operator.itemgetter(1))
- bottom_left, _ = min(enumerate([pt[0][0] - pt[0][1] for pt in
- polygon]), key=operator.itemgetter(1))
- top_right, _ = max(enumerate([pt[0][0] - pt[0][1] for pt in
- polygon]), key=operator.itemgetter(1))
现在我们有了4个点的坐标，然后需要使用索引返回4个点的数组。每个点都在自己的一个坐标数组中。
- [polygon[top_left][0], polygon[top_right][0], polygon[bottom_right][0], polygon[bottom_left][0]]
最大多边形的四个角
3、裁剪和变形图像
有了数独的4个坐标后，我们需要剪裁和弯曲一个矩形部分，从一个图像变成一个类似大小的正方形。由左上、右上、右下和左下点描述的矩形。
注意：将数据类型显式设置为float32或‘getPerspectiveTransform’会引发错误。
- top_left, top_right, bottom_right, bottom_left = crop_rect[0], crop_rect[1], crop_rect[2], crop_rect[3]
- src = np.array([top_left, top_right, bottom_right, bottom_left], dtype= float32 )
- side = max([ distance_between(bottom_right, top_right),
- distance_between(top_left, bottom_left),
- distance_between(bottom_right, bottom_left),
- distance_between(top_left, top_right) ])
用计算长度的边来描述一个正方形，这是要转向的新视角。然后要做的是通过比较之前和之后的4个点来得到用于倾斜图像的变换矩阵。最后，再对原始图像进行变换。
- dst = np.array([[0, 0], [side - 1, 0], [side - 1, side - 1], [0, side - 1]], dtype= float32 )
- m = cv2.getPerspectiveTransform(src, dst)
- cv2.warpPerspective(img, m, (int(side), int(side)))
裁剪和变形后的数独图像
4、从正方形图像中推断网格
从正方形图像推断出81个单元格。我们在这里交换 j 和 i ，这样矩形就被存储在从左到右读取的列表中，而不是自上而下。
- squares = []
- side = img.shape[:1]
- sideside = side[0] / 9
- for j in range(9):
- for i in range(9):
- p1 = (i * side, j * side) #Top left corner of a box
- p2 = ((i + 1) * side, (j + 1) * side) #Bottom right corner
- squares.append((p1, p2)) return squares
5、得到每一位数字
下一步是从其单元格中提取数字并构建一个数组。
- digits = []
- img = pre_process_image(img.copy(), skip_dilate=True)
- for square in squares:
- digits.append(extract_digit(img, square, size))
extract_digit 是从一个数独方块中提取一个数字(如果有的话)的函数。它从整个方框中得到数字框，使用填充特征查找来获得框中间的最大特征，以期在边缘找到一个属于该数字的像素，用于定义中间的区域。接下来，需要缩放并填充数字，让适合用于机器学习的数字大小的平方。同时，我们必须忽略任何小的边框。
- def extract_digit(img, rect, size):
- digit = cut_from_rect(img, rect)
- h, w = digit.shape[:2]
- margin = int(np.mean([h, w]) / 2.5)
- _, bbox, seed = find_largest_feature(digit, [margin, margin], [w
- - margin, h - margin])
- digit = cut_from_rect(digit, bbox)
- w = bbox[1][0] - bbox[0][0]
- h = bbox[1][1] - bbox[0][1]
- if w > 0 and h > 0 and (w * h) > 100 and len(digit) > 0:
- return scale_and_centre(digit, size, 4)
- else:
- return np.zeros((size, size), np.uint8)
最后的数独的形象
现在，我们有了最终的数独预处理图像，下一个任务是提取图像中的每一位数字，并将其存储在一个矩阵中，然后通过某种算法计算出数独的解。
第二步：提取图像中出现的每个数字
对于数字识别，我们将在MNIST数据集上训练神经网络，该数据集包含60000张0到9的数字图像。从导入所有库开始。
- import numpy
- import cv2from keras.datasets
- import mnistfrom keras.models
- import Sequentialfrom keras.layers
- import Densefrom keras.layers
- import Dropoutfrom keras.layers
- import Flattenfrom keras.layers.convolutional
- import Conv2Dfrom keras.layers.convolutional
- import MaxPooling2Dfrom keras.utils
- import np_utilsfrom keras
- import backend as K
- import matplotlib.pyplot as plt
需要修复随机种子以确保可重复性。
- K.set_image_dim_ordering( th )
- seed = 7numpy.random.seed(seed)
- (X_train, y_train), (X_test, y_test) = mnist.load_data()
然后将图像重塑为样本*像素*宽度*高度，并输入从0-255规范化为0-1。在此之后，对输出进行热编码。
- X_trainX_train = X_train.reshape(X_train.shape[0], 1, 28,
- 28).astype( float32 )
- X_testX_test = X_test.reshape(X_test.shape[0], 1, 28,
- 28).astype( float32 )
- X_trainX_train = X_train / 255
- X_testX_test = X_test / 255
- y_train = np_utils.to_categorical(y_train)
- y_test = np_utils.to_categorical(y_test)
- num_classes = y_test.shape[1]
接下来，我们将创建一个模型来预测手写数字。
- model = Sequential()
- model.add(Conv2D(32, (5, 5), input_shape=(1, 28, 28),
- activation= relu ))
- model.add(MaxPooling2D(pool_size=(2, 2)))model.add(Conv2D(16, (3,
- 3), activation= relu ))
- model.add(MaxPooling2D(pool_size=(2, 2)))
- model.add(Dropout(0.2))
- model.add(Flatten())
- model.add(Dense(128, activation= relu ))
- model.add(Dense(64, activation= relu ))
- model.add(Dense(num_classes, activation= softmax ))
模型总结
在创建模型之后，需要进行编译，使其适合数据集并对其进行评估。
- model.compile(loss= categorical_crossentropy , optimizer= adam ,
- metrics=[ accuracy ])
- model.fit(X_train, y_train, validation_data=(X_test, y_test),
- epochs=10, batch_size=200)
- scores = model.evaluate(X_test, y_test, verbose=0)
- print("Large CNN Error: %.2f%%" % (100-scores[1]*100))
现在，可以测试上面创建的模型了。
- test_images = X_test[1:5]
- test_imagestest_images = test_images.reshape(test_images.shape[0], 28, 28)
- print ("Test images shape: {}".format(test_images.shape))
- for i, test_image in enumerate(test_images, start=1):
- org_image = test_image
- test_imagetest_image = test_image.reshape(1,1,28,28)
- prediction = model.predict_classes(test_image, verbose=0)
- print ("Predicted digit: {}".format(prediction[0]))
- plt.subplot(220+i)
- plt.axis( off )
- plt.title("Predicted digit: {}".format(prediction[0]))
- plt.imshow(org_image, cmap=plt.get_cmap( gray ))
- plt.show()
手写体数字分类模型的预测数字
神经网络的精度为98.314%！最后，保存序列模型，这样就不必在需要使用它的时候反复训练了。
- # serialize model to JSON
- modelmodel_json = model.to_json()
- with open("model.json", "w") as json_file:
- json_file.write(model_json)
- # serialize weights to HDF5
- model.save_weights("model.h5")
- print("Saved model to disk")
更多关于手写数字识别的信息：
https://github.com/aakashjhawar/Handwritten-Digit-Recognition
下一步是加载预先训练好的模型。
- json_file = open( model.json , r )
- loaded_model_json = json_file.read()
- json_file.close()
- loaded_model = model_from_json(loaded_model_json)
- loaded_model.load_weights("model.h5")
调整图像大小，并将图像分割成9x9的小图像。每个小图像的数字都是从1-9。
- sudoku = cv2.resize(sudoku, (450,450))
- grid = np.zeros([9,9])
- for i in range(9):
- for j in range(9):
- image = sudoku[i*50:(i+1)*50,j*50:(j+1)*50]
- if image.sum() > 25000:
- grid[i][j] = identify_number(image)
- else:
- grid[i][j] = 0
- gridgrid = grid.astype(int)
identify_number 函数拍摄数字图像并预测图像中的数字。
- def identify_number(image):
- image_resize = cv2.resize(image, (28,28)) # For plt.imshow
- image_resizeimage_resize_2 = image_resize.reshape(1,1,28,28) # For input to model.predict_classes
- # cv2.imshow( number , image_test_1)
- loaded_modelloaded_model_pred = loaded_model.predict_classes(image_resize_2
- , verbose = 0)
- return loaded_model_pred[0]
完成以上步骤后，数独网格看起来是这样的：
提取的数独
第三步：用回溯算法计算数独的解
我们将使用回溯算法来计算数独的解。
在网格中搜索仍未分配的条目。如果找到引用参数行，col 将被设置为未分配的位置，而 true 将被返回。如果没有未分配的条目保留，则返回false。“l” 是 solve_sudoku 函数传递的列表变量，用于跟踪行和列的递增。
- def find_empty_location(arr,l):
- for row in range(9):
- for col in range(9):
- if(arr[row][col]==0):
- l[0]=row
- l[1]=col
- return True
- return False
返回一个boolean，指示指定行的任何赋值项是否与给定数字匹配。
- def used_in_row(arr,row,num):
- for i in range(9):
- if(arr[row][i] == num):
- return True
- return False
返回一个boolean，指示指定列中的任何赋值项是否与给定数字匹配。
- def used_in_col(arr,col,num):
- for i in range(9):
- if(arr[i][col] == num):
- return True
- return False
返回一个boolean，指示指定的3x3框内的任何赋值项是否与给定的数字匹配。
- def used_in_box(arr,row,col,num):
- for i in range(3):
- for j in range(3):
- if(arr[i+row][j+col] == num):
- return True
- return False
检查将num分配给给定的(row, col)是否合法。检查“ num”是否尚未放置在当前行，当前列和当前3x3框中。
- def check_location_is_safe(arr,row,col,num):
- return not used_in_row(arr,row,num) and
- not used_in_col(arr,col,num) and
- not used_in_box(arr,row - row%3,col - col%3,num)
采用部分填入的网格，并尝试为所有未分配的位置分配值，以满足数独解决方案的要求(跨行、列和框的非重复)。“l” 是一个列表变量，在 find_empty_location 函数中保存行和列的记录。将我们从上面的函数中得到的行和列赋值给列表值。
- def solve_sudoku(arr):
- l=[0,0]
- if(not find_empty_location(arr,l)):
- return True
- row=l[0]
- col=l[1]
- for num in range(1,10):
- if(check_location_is_safe(arr,row,col,num)):
- arr[row][col]=num
- if(solve_sudoku(arr)):
- return True
- # failure, unmake & try again
- arr[row][col] = 0
- return False
最后一件事是print the grid。
- def print_grid(arr):
- for i in range(9):
- for j in range(9):
- print (arr[i][j])
- print ( )
最后，把所有的函数整合在主函数中。
- def sudoku_solver(grid):
- if(solve_sudoku(grid)):
- print( --- )
- else:
- print ("No solution exists")
- gridgrid = grid.astype(int)
- return grid
这个函数的输出将是最终解出的数独。
最终的解决方案
当然，这个解决方案绝不是万无一失的，处理图像时仍然会出现一些问题，要么无法解析，要么解析错误导致无法处理。不过，我们的目标是探索新技术，从这个角度来看，这个项目还是有价值的。
