python - 如何使用 ipywidgets fileupload 上传大文件?
问题描述
有一个带有 Jupyterhub 的服务器。它可以通过浏览器进行远程访问(仅限 IP 地址)。用户可以使用 ipywidgets.fileupload 上传大文件(数 GB)。但我不能正常上传超过 100MB 的文件:大约 200MB 的文件上传约 10 分钟。(scp 命令 - 少于 2 分钟。)。文件超过 250MB - 以内核错误结尾(但带有“--debug”的 jupyterhub 不显示任何内容)。
浏览器控制台错误:
API request failed (0): error
:8000/user/aleksandr/api/contents/Untitled1.ipynb:1 Failed to load resource: net::ERR_EMPTY_RESPONSE
main.min.js?v=eef572336006937e9a017afbdebc65fe:24805 Uncaught (in promise) XhrError: error
at wrap_ajax_error (http://192.168.1.49:8000/user/aleksandr/static/notebook/js/main.min.js?v=eef572336006937e9a017afbdebc65fe:24805:29)
at Object.settings.error (http://192.168.1.49:8000/user/aleksandr/static/notebook/js/main.min.js?v=eef572336006937e9a017afbdebc65fe:24861:24)
at u (http://192.168.1.49:8000/user/aleksandr/static/notebook/js/main.min.js?v=eef572336006937e9a017afbdebc65fe:2:27457)
at Object.fireWith [as rejectWith] (http://192.168.1.49:8000/user/aleksandr/static/notebook/js/main.min.js?v=eef572336006937e9a017afbdebc65fe:2:28202)
at k (http://192.168.1.49:8000/user/aleksandr/static/notebook/js/main.min.js?v=eef572336006937e9a017afbdebc65fe:2:77676)
at XMLHttpRequest.<anonymous> (http://192.168.1.49:8000/user/aleksandr/static/notebook/js/main.min.js?v=eef572336006937e9a017afbdebc65fe:2:79882)
wrap_ajax_error @ main.min.js?v=eef572336006937e9a017afbdebc65fe:24805
settings.error @ main.min.js?v=eef572336006937e9a017afbdebc65fe:24861
u @ main.min.js?v=eef572336006937e9a017afbdebc65fe:2
fireWith @ main.min.js?v=eef572336006937e9a017afbdebc65fe:2
k @ main.min.js?v=eef572336006937e9a017afbdebc65fe:2
(anonymous) @ main.min.js?v=eef572336006937e9a017afbdebc65fe:2
一些源代码:
import ipywidgets as widgets
def ff(b):
s.style.button_color = "yellow"
for elem in b.new.values():
print(elem['metadata']['name'])
with open(elem['metadata']['name'], 'wb') as file:
file.write( elem['content'])
print("Done")
s.style.button_color = "lightgreen"
s = widgets.FileUpload(
accept='', # Accepted file extension e.g. '.txt', '.pdf', 'image/*', 'image/*,.pdf'
multiple=True # True to accept multiple files upload else False
)
s.style.button_color = "lightgreen"
s.observe(ff, names='value')
s
冻结时,不执行“ff”功能。
我用:
- 蟒蛇:3.7.3
- jupyter核心:4.5.0
- jupyter笔记本:6.0.0
- ipython:7.6.1
- ipykernel:5.1.1
- ipywidgets:7.5.0
- jupyterhub:1.0.0
一些动作:
根据这个:https ://github.com/jupyter-widgets/ipywidgets/issues/2522 ,我在jupyer_config.py中改变了:
c.Spawner.args=['--SingleUserNotebookApp.tornado_settings = {"websocket_max_message_size": 1073741824}']
在用户笔记本启动时执行。和:
c.JupyterHub.tornado_settings= {"websocket_max_message_size": 1073741824}}
通常,更改这些字段不会影响问题的状态。
是否可以通过 ipywidgets.fileupload 以正常速度上传大文件?
解决方案
该问题的解决方案在 Jupyter 社区中仍然是一个未解决的问题。
但是有一个可用的解决方法,即增加tornado 支持的websocket 消息大小。
请参考此链接。
推荐阅读
- python - 谷歌云视频智能:ModuleNotFoundError:没有名为“google.api_core.operations_v1”的模块
- c# - 发布者未显示在任务管理器 c#.net winforms 应用程序中
- sockets - 在全球网络中创建飞镖服务器
- python - 从具有特定模式的文本中获取 tsv
- python - 有没有更快的方法在 python 中创建配对元素列表?
- linux - 窗户里的Shebang
- python - DRF 序列化程序不会在更新时引发错误,但不会更新
- mysql - SQL从同一张表中查找共同的朋友
- r - 字符串到语音的转换
- c++ - 有没有办法从 .exe 进程中读取字符?(游戏,C++)