15个节省时间的Jupyter技巧

开发 前端
作为数据科学家,从加载数据到创建和部署模型,我们几乎每天都在使用Jupyter notebook。

作为数据科学家,从加载数据到创建和部署模型,我们几乎每天都在使用Jupyter notebook。

Jupyter Notebooks使用非常简单并且对于任何面向python的任务都可以非常方便的使用。只要它的内核处于活动状态,就可以用数据子集运行和测试脚本,而不用每次重启程序,这样可以加快我们开发和测试的速度。

但是因为它太简单了,所以我们经常会犯一些错误,浪费我们的时间和计算成本。在这篇文章中,我们将讨论一些可以节省时间,降低计算成本的技巧。

1、魔法命令

在Jupyter notebook中,“魔法命令”是特殊的命令,不是Python语言的一部分,但可以使您的生活更轻松。这些命令前面有%符号。

魔法命令很有用,可以直接嵌入到python代码中,并解决常见问题,例如列出当前目录中的所有文件或更改当前工作目录。

下面是一些常见的魔术命令:

  • %run:在当前内核中运行Python脚本。
  • %load:从脚本中加载代码并在当前内核中运行。
  • %who:列出所有变量。
  • %timeit:记录一行代码的执行时间。
  • %debug:在异常处输入调试器。
  • %matplotlib inline:在notebook中显示图形。
  • %load_ext:加载扩展,例如IPython扩展。
  • %pwd:打印当前工作目录。
  • %ls:显示当前目录中的所有文件。

我们可以运行%lsmagic来查看所有magic命令的列表。

要获得有关特定魔术命令的更多信息,可以使用?操作符,例如%run?。

2、执行另一个Jupyter notebook文件

可以使用魔术命令来做一些有趣的事情。例如,从py文件中执行python代码,或从ipynb文件中执行jupyter notebook。

%run将执行jupyter notebook并显示输出,这与导入python模块不同。

我们可以运行two-histogram notebook并得到如下输出:

%run ./two-histograms.ipynb

3、查看文档📓

通过高亮显示方法并按Shift + Tab键,可以轻松查看该方法的文档。它将显示编写函数时编写的文档字符串。你也可以通过点击右上角的+按钮来打开模态框。

还可以通过突出显示每个magic命令并按Shift + Tab键来获得有关每个magic命令的更多信息。

4、添加多个游标🖱

如果你需要重命名写在几个地方的变量,或者在编辑代码时,你希望你有多个光标。

在Jupyter notebooks中,可以使用多个光标同时编辑文本。如果你想一次对多行文本进行相同的更改,这可能很有用。

要在Jupyter notebook中使用多个游标,可以按住Alt键并单击所需的位置。这将在每个点击的位置创建一个游标。然后你可以像往常一样进行编辑,更改将同时应用于所有位置。

Windows:按住alt +左键并拖动光标。Mac:按住option键+左键拖动光标。

你也可以使用Shift + Alt +上/下箭头键组合来选择多行文本,并在每一行的开头创建一个光标。

图片

记住,使用多个游标可能会产生问题,所以最好在使用这个功能之前保存好你的代码,以防你做了任何意想不到的更改。

5、从另一个外部python脚本中插入代码🗃

可以用外部python脚本替换单元格的内容。你可以使用计算机上的任何python文件,也可以使用URL作为源。

# Before Running
%load ./hello_world.py

在下一个单元格中可以使用:

if __name__ == "__main__":
print("Hello World!")

Output
Hello World!

6、运行CMD/Shell命令⌨

Jupyter notebook中使用!命令前的前缀可以运行操作系统的命令。例如,要列出当前目录下的文件,可以使用ls命令:

!ls

你也可以通过在命令后面添加参数来传递参数。例如,要列出特定目录下的文件,可以使用-l选项以长格式显示文件,并将目录路径指定为参数:

!ls -l /path/to/directory

你也可以将命令的输赋值给一个变量,并在代码中使用它。例如:

files = !ls
print(files)

上面代码会把当前目录中的文件列表分配给files变量,并打印出来。

你可以使用这种技术在Jupyter notebook中运行任何shell命令,只要该命令在运行notebook的系统中可用。

7、为程序完成设置闹钟⏰

当你的模型完成训练或任何任务时,得到一个通知总是很有帮助的。

在windows 10中,我们可以使用win10toast模块设置它。

pip install win10toast

然后使用这段代码

 from win10toast import ToastNotifier
toaster = ToastNotifier()

#Your program

toaster.show_toast("Execution complete",
"Your calculation completed",
duration=10)

我们在程序完成执行时为我们进行提示。

 import winsound

# set an alarm of 440HZ for one second (1000ms)
duration = 1000
freq = 440

winsound.Beep(freq, duration)

Mac和Linux可以使用os模块,使用afplay命令(在macOS上)或aplay命令(在Linux上)播放声音。

import os

# Run your program here
# Play a sound when the program completes
os.system("afplay /path/to/sound.mp3") # macOS
os.system("aplay /path/to/sound.wav") # Linux

可以将/path/to/sound.mp3替换为要播放的声音文件的路径。或者是afplay或aplay命令支持的任何音频文件,如MP3、WAV或AIFF。

只有在运行Jupyter notebook的系统上有afplay或aplay命令时,此方法才有效。

在Mac中,还可以使用内置命令say,在程序完成时说一些话。

import os

os.system('say "hi siri"')

8、显示执行时间

要在Jupyter notebook中测量单元格的执行时间,可以使用%timeit魔法命令。此命令将执行单个语句并返执行时间。下面是如何使用%timeit的例子:

%timeit sum(range(100))

这将计算sum函数的执行时间,并返回执行该函数所需的平均时间。

图片

还可以使用%%timeit来测量整个单元格的执行时间:

 %%timeit

total = 0
for i in range(1000):
total += i

图片

可以看到上面的代码与我们使用使用Python中的time模块的结果类似

import time

start_time = time.time()

# code to measure
sum(range(100))

end_time = time.time()

elapsed_time = end_time - start_time
print(f'Execution time: {elapsed_time:.2f} seconds')

注意:这些方法只会测量单元格中代码的执行时间。如果计算单元依赖于其他计算单元或外部资源,则执行时间将不包括执行这些依赖项所需的时间。

9、在notebook之间传递变量

在Jupyter notebook中,%store魔法命令可以在notebook之间传递变量。

下面是一个使用它的例子:

var1 = 10
%store var1

在另外一个notebook中可以用下面命令获得变量的值

%store -r var1
print(var1)

%store魔法命令有以下几个操作

  • %store var1:存储变量var1
  • %store -r var1:检索存储的变量var1,并将其赋值给当前笔记本中同名的变量
  • %store -d var1:删除已存储的变量var1
  • %store -z:删除所有已存储的变量

你也可以使用一个%store命令存储多个值,如

%store var1 var2

%store命令仅在相同的Jupyter会话中有效。

%store命令的值在内核重启后也是可以访问的,看看下面这个例子。

图片

10、列出所有键盘快捷键⌨

学习键盘快捷键将节省你大量的时间。我们可以在顶部菜单下:帮助>键盘快捷键检查它们,或在命令模式下按H键来查看。以下是Jupyter notebook中一些常用的键盘快捷键列表:

  • Enter:当前单元格进入编辑模式
  • Esc:当前单元格进入命令模式
  • Shift + Enter:运行当前单元格并移动到下一个单元格
  • Ctrl + Enter:运行当前单元格
  • Alt + Enter:运行当前单元格并在下面插入一个新单元格
  • Shift + Tab:显示当前函数或对象的文档
  • Ctrl + S:保存
  • A:在当前单元格的上方插入一个新单元格(在命令模式下)
  • B:在当前单元格下面插入一个新单元格(在命令模式下)
  • M:将当前单元格更改为Markdown单元格(在命令模式下)
  • Y:将当前单元格更改为代码单元格(在命令模式下)
  • D + D:删除当前单元格(在命令模式下)
  • Z:撤销最后一次删除单元格(在命令模式下)
  • X:切割选定的单元格(在命令模式下)
  • C:复制选中的单元格(在命令模式下)
  • V:粘贴选中的单元格(在命令模式下)
  • Ctrl + Shift + -将当前单元格从光标所在的位置拆分成两个。(在命令模式下)
  • Esc + F:找到并替换你的代码,但不替换输出。(在命令模式下)
  • Esc + O:切换单元格输出(在命令模式下)

选择多个单元格:

  • Shift + Down选择向下方向的下一个单元格。
  • Shift + Up选择向上方向的下一个单元格。(在命令模式下)
  • Shift + M:合并多个选定单元格。(在命令模式下)

还可以使用%shortcuts魔术命令查看当前单元格输出区域的键盘快捷键列表:

%shortcuts

这将显示所有快捷键及其相应操作的列表。

11、隐藏不必要的输出

当你从Jupyter notebook创建报告时,看到不必要的内存代码或对象id是很烦人的。要将这些不必要的输出隐藏在起来可以使用 分号 ;

看看下面代码:

图片

如果想屏蔽matplotlib的输出,看看下面代码,注意后面的分号:

plt.plot(x,y);

图片

12、使用python以外的其他语言编写函数

如果你正在处理大量的大型数据集,并且numpy的速度不够快,那么你可以直接在python代码中直接编写一些c或fortran代码。

如果你想开始用c编写函数,那么你将需要cython库。

!pip install Cython

加载和使用:

%load_ext Cython

%%cython
def myltiply_by_2(float x):
return 2.0 * x

myltiply_by_2(23.)

要编写fortran函数,则需要另一个库fortrain-magic。

!pip install fortran-magic

代码如下:

%load_ext fortranmagic

%%fortran subroutine compute_fortran(x, y, z)
real, intent(in) :: x(:), y(:)
real, intent(out) :: z(size(x, 1))
z = sin(x + y)
end subroutine compute_fortran

compute_fortran([1, 2, 3], [4, 5, 6])

13、扩展pandas输出中的列数和行数

默认情况下,panda的dataframe只能显示有限数量的行和列。有几种方法可以扩展Jupyter Notebook中pandas DataFrame中显示的行和列的数量。

方法1:使用pd.options.display.max_rows和pd.options.display.max_columns选项。

例如要显示最多100行50列,可以使用以下代码:

import pandas as pd

pd.options.display.max_rows = 100
pd.options.display.max_columns = 50

方法2:使用pd.set_option函数设置这些选项。例如:

pd.set_option("display.max_rows", 100)
pd.set_option("display.max_columns", 50)

或者可以使用head和tail方法来显示DataFrame的前几行或后几行。例如:

df.head(10)
df.tail(5)

方法3:使用IPython中的IPython.display模块控制显示。例如:

from IPython.display import display

display(df, max_rows=100, max_columns=50)

这将显示100行50列的DataFrame。

14、提取输入和输出单元数据

当你执行完一个单元格时,你意识到忘记给一个变量赋值,那怎么办呢?

我们在jupyter notebook中执行单元格时,它将分配一个行号为ln:

图片

当单元格完成执行时,我们会得到一个输出并且可以通过传递执行编号作为索引来访问它

图片

Out是一个python字典,存储单元格的所有输出。我们可以使用编号作为索引来访问输出。

15、导出单元格的内容

当完成jupyter的测试我们可能会想将jupyter单元中内容导出到python文件中。最简单的办法是创建一个py文件并复制粘贴代码,但这很明显不是最好的方法。

%%writefile是一个Jupyter Notebook魔法命令,可以将单元格的内容保存为Python文件。例如在单元格中有以下代码:

%%writefile example.py
def add(a, b):

print(add(3, 4))

你可以运行单元格后将在Jupyter Notebook所在的目录中创建一个名为example.py的文件,文件内容就是单元格内的python代码

%pycat是另外一个Jupyter Notebook魔法命令,它在Notebook的单元格中显示Python文件的内容。如果在单元格中有以下代码:

%pycat example.py

它将在单元格的输出中显示example.py文件的内容。这对于快速查看Python文件的内容非常有用。

总结

以上就是我们总结的一些技巧,希望对你有所帮助。


责任编辑:华轩 来源: DeepHub IMBA
相关推荐

2022-05-02 17:52:53

Python编程语言

2011-02-23 16:07:44

MySQL

2020-02-27 15:53:01

开发技能代码

2024-05-13 12:36:51

Python代码

2022-04-13 13:51:12

DevSecOps工具开发管道

2020-04-27 11:11:54

数据湖数据人工智能

2020-01-16 10:20:45

piwheels树莓派Linux

2023-09-18 11:32:37

Python计算

2020-03-10 10:12:14

CIO自动化人力资源

2022-12-19 15:25:22

Linux命令

2011-09-29 11:33:35

Linux

2018-07-03 10:33:51

服务器运维Linux

2011-07-29 10:32:09

Linux管理员命令行

2011-08-01 09:36:53

Linux管理员

2023-08-13 16:46:36

2018-07-09 09:00:00

开源网络管理操作系统

2009-08-24 08:59:10

IT白领网络应用

2022-05-23 15:38:28

Windows 11Windows 10微软

2021-06-11 08:00:00

人工智能航空工具

2019-11-08 10:27:11

Linux键盘快捷键
点赞
收藏

51CTO技术栈公众号