Como faço para baixar um arquivo via HTTP utilizando Python?

votos
678

Eu tenho um pequeno utilitário que eu uso para fazer download de um MP3 a partir de um site em uma agenda e, em seguida, constrói / atualiza um arquivo XML podcast que eu obviamente adicionado ao iTunes.

O processamento de texto que cria / atualiza o arquivo XML é escrito em Python. Eu uso wget dentro um Windows .batarquivo para baixar o MP3 real no entanto. Eu preferiria ter todo o utilitário escrito em Python embora.

Lutei embora para encontrar uma maneira de carregar realmente para baixo o arquivo em Python, portanto, por isso que eu recorreu a wget.

Então, como faço para baixar o arquivo usando Python?

Publicado 22/08/2008 em 16:34
fonte usuário
Em outras línguas...                            


22 respostas

votos
926

Um mais, usando urlretrieve:

import urllib
urllib.urlretrieve ("http://www.example.com/songs/mp3.mp3", "mp3.mp3")

(Para Python 3+ usar 'urllib.request importação' e urllib.request.urlretrieve)

No entanto, um outro, com um "progresso"

import urllib2

url = "http://download.thinkbroadband.com/10MB.zip"

file_name = url.split('/')[-1]
u = urllib2.urlopen(url)
f = open(file_name, 'wb')
meta = u.info()
file_size = int(meta.getheaders("Content-Length")[0])
print "Downloading: %s Bytes: %s" % (file_name, file_size)

file_size_dl = 0
block_sz = 8192
while True:
    buffer = u.read(block_sz)
    if not buffer:
        break

    file_size_dl += len(buffer)
    f.write(buffer)
    status = r"%10d  [%3.2f%%]" % (file_size_dl, file_size_dl * 100. / file_size)
    status = status + chr(8)*(len(status)+1)
    print status,

f.close()
Respondeu 22/08/2008 em 17:19
fonte usuário

votos
382

Em Python 2, utilize urllib2 que vem com a biblioteca padrão.

import urllib2
response = urllib2.urlopen('http://www.example.com/')
html = response.read()

Esta é a forma mais básica para usar a biblioteca, menos qualquer manipulação de erro. Você também pode fazer coisas mais complexas, tais como mudança de cabeçalhos. A documentação pode ser encontrada aqui.

Respondeu 22/08/2008 em 16:38
fonte usuário

votos
286

Em 2012, utilizar a biblioteca de pedidos python

>>> import requests
>>> 
>>> url = "http://download.thinkbroadband.com/10MB.zip"
>>> r = requests.get(url)
>>> print len(r.content)
10485760

Você pode executar pip install requestspara obtê-lo.

Os pedidos tem muitas vantagens sobre as alternativas porque a API é muito mais simples. Isto é especialmente verdadeiro se você tem que fazer a autenticação. urllib e urllib2 são bastante intuitiva e dolorosa neste caso.


2015/12/30

Pessoas expressaram admiração pela barra de progresso. É legal, com certeza. Existem várias soluções off-the-shelf agora, incluindo tqdm:

from tqdm import tqdm
import requests

url = "http://download.thinkbroadband.com/10MB.zip"
response = requests.get(url, stream=True)

with open("10MB", "wb") as handle:
    for data in tqdm(response.iter_content()):
        handle.write(data)

Esta é essencialmente a implementação @kvance descrito 30 meses atrás.

Respondeu 24/05/2012 em 21:08
fonte usuário

votos
145
import urllib2
mp3file = urllib2.urlopen("http://www.example.com/songs/mp3.mp3")
with open('test.mp3','wb') as output:
  output.write(mp3file.read())

O wbno open('test.mp3','wb')abre um arquivo (e apaga qualquer arquivo existente) no modo binário para que você pode salvar os dados com ele em vez de apenas texto.

Respondeu 22/08/2008 em 16:58
fonte usuário

votos
60

Python 3

  • urllib.request.urlopen

    import urllib.request
    response = urllib.request.urlopen('http://www.example.com/')
    html = response.read()
    
  • urllib.request.urlretrieve

    import urllib.request
    urllib.request.urlretrieve('http://www.example.com/songs/mp3.mp3', 'mp3.mp3')
    

Python 2

  • urllib2.urlopen(graças Corey )

    import urllib2
    response = urllib2.urlopen('http://www.example.com/')
    html = response.read()
    
  • urllib.urlretrieve(graças PabloG )

    import urllib
    urllib.urlretrieve('http://www.example.com/songs/mp3.mp3', 'mp3.mp3')
    
Respondeu 06/08/2015 em 13:30
fonte usuário

votos
18

Uma versão melhorada do código PabloG para Python 2/3:

#!/usr/bin/env python
# -*- coding: utf-8 -*-
from __future__ import ( division, absolute_import, print_function, unicode_literals )

import sys, os, tempfile, logging

if sys.version_info >= (3,):
    import urllib.request as urllib2
    import urllib.parse as urlparse
else:
    import urllib2
    import urlparse

def download_file(url, dest=None):
    """ 
    Download and save a file specified by url to dest directory,
    """
    u = urllib2.urlopen(url)

    scheme, netloc, path, query, fragment = urlparse.urlsplit(url)
    filename = os.path.basename(path)
    if not filename:
        filename = 'downloaded.file'
    if dest:
        filename = os.path.join(dest, filename)

    with open(filename, 'wb') as f:
        meta = u.info()
        meta_func = meta.getheaders if hasattr(meta, 'getheaders') else meta.get_all
        meta_length = meta_func("Content-Length")
        file_size = None
        if meta_length:
            file_size = int(meta_length[0])
        print("Downloading: {0} Bytes: {1}".format(url, file_size))

        file_size_dl = 0
        block_sz = 8192
        while True:
            buffer = u.read(block_sz)
            if not buffer:
                break

            file_size_dl += len(buffer)
            f.write(buffer)

            status = "{0:16}".format(file_size_dl)
            if file_size:
                status += "   [{0:6.2f}%]".format(file_size_dl * 100 / file_size)
            status += chr(13)
            print(status, end="")
        print()

    return filename

if __name__ == "__main__":  # Only run if this file is called directly
    print("Testing with 10MB download")
    url = "http://download.thinkbroadband.com/10MB.zip"
    filename = download_file(url)
    print(filename)
Respondeu 13/05/2013 em 09:59
fonte usuário

votos
16

Escreveu wget biblioteca em Python puro apenas para esta finalidade. Ele é bombeada para cima urlretrievecom esses recursos a partir da versão 2.0.

Respondeu 25/09/2013 em 18:55
fonte usuário

votos
14

usar o módulo wget:

import wget
wget.download('url')
Respondeu 25/03/2015 em 12:59
fonte usuário

votos
12

Concordo com Corey, urllib2 é mais completo do que urllib e deve provavelmente ser o módulo usado se você quer fazer coisas mais complexas, mas para tornar as respostas mais completas, urllib é um módulo simples se você quer apenas o básico:

import urllib
response = urllib.urlopen('http://www.example.com/sound.mp3')
mp3 = response.read()

Irá funcionar bem. Ou, se você não quer lidar com o objeto "resposta" você pode chamar read () diretamente:

import urllib
mp3 = urllib.urlopen('http://www.example.com/sound.mp3').read()
Respondeu 22/08/2008 em 16:58
fonte usuário

votos
11

A seguir estão as chamadas mais utilizados para download de arquivos em python:

  1. urllib.urlretrieve ('url_to_file', file_name)

  2. urllib2.urlopen('url_to_file')

  3. requests.get(url)

  4. wget.download('url', file_name)

Nota: urlopene urlretrievesão encontrados para desempenho relativamente ruim com o download de arquivos grandes (tamanho> 500 MB). requests.getarmazena o arquivo na memória até que a transferência seja concluída.

Respondeu 19/09/2016 em 12:45
fonte usuário

votos
9

Simples, mas Python 2 & Python 3forma compatível vem com sixbiblioteca:

from six.moves import urllib
urllib.request.urlretrieve("http://www.example.com/songs/mp3.mp3", "mp3.mp3")
Respondeu 22/06/2017 em 07:59
fonte usuário

votos
6
import os,requests
def download(url):
    get_response = requests.get(url,stream=True)
    file_name  = url.split("/")[-1]
    with open(file_name, 'wb') as f:
        for chunk in get_response.iter_content(chunk_size=1024):
            if chunk: # filter out keep-alive new chunks
                f.write(chunk)


download("https://example.com/example.jpg")
Respondeu 05/11/2018 em 11:28
fonte usuário

votos
6

Você pode obter o feedback progresso com urlretrieve assim:

def report(blocknr, blocksize, size):
    current = blocknr*blocksize
    sys.stdout.write("\r{0:.2f}%".format(100.0*current/size))

def downloadFile(url):
    print "\n",url
    fname = url.split('/')[-1]
    print fname
    urllib.urlretrieve(url, fname, report)
Respondeu 26/01/2014 em 14:12
fonte usuário

votos
5

Se você wget instalado, você pode usar parallel_sync.

pip instalar parallel_sync

from parallel_sync import wget
urls = ['http://something.png', 'http://somthing.tar.gz', 'http://somthing.zip']
wget.download('/tmp', urls)
# or a single file:
wget.download('/tmp', urls[0], filenames='x.zip', extract=True)

Doc: https://pythonhosted.org/parallel_sync/pages/examples.html

Isso é muito poderoso. Ele pode fazer download de arquivos em paralelo, tente novamente em caso de falha, e pode até baixar arquivos em uma máquina remota.

Respondeu 19/11/2015 em 23:48
fonte usuário

votos
3

Em python3 você pode usar urllib3 e libraires shutil. Baixá-los usando pip ou PIP3 (consoante se python3 é padrão ou não)

pip3 install urllib3 shutil

Em seguida, execute este código

import urllib.request
import shutil

url = "http://www.somewebsite.com/something.pdf"
output_file = "save_this_name.pdf"
with urllib.request.urlopen(url) as response, open(output_file, 'wb') as out_file:
    shutil.copyfileobj(response, out_file)

Note que você baixar urllib3, mas usar urllibem código

Respondeu 08/02/2018 em 17:30
fonte usuário

votos
3

Se a velocidade é importante para você, eu fiz um pequeno teste de desempenho para os módulos urllibe wget, e quanto wgeteu tentei uma vez com barra de status e uma vez sem. Tomei três arquivos 500MB diferentes para testar com (Arquivos- diferente para eliminar a possibilidade de que há alguns cache acontecendo sob o capô). Testado na máquina debian, com python2.

Em primeiro lugar, estes são os resultados (que são semelhantes em diferentes corridas):

$ python wget_test.py 
urlretrive_test : starting
urlretrive_test : 6.56
==============
wget_no_bar_test : starting
wget_no_bar_test : 7.20
==============
wget_with_bar_test : starting
100% [......................................................................] 541335552 / 541335552
wget_with_bar_test : 50.49
==============

A maneira que eu realizado o teste é usar decoradora "perfil". Este é o código completo:

import wget
import urllib
import time
from functools import wraps

def profile(func):
    @wraps(func)
    def inner(*args):
        print func.__name__, ": starting"
        start = time.time()
        ret = func(*args)
        end = time.time()
        print func.__name__, ": {:.2f}".format(end - start)
        return ret
    return inner

url1 = 'http://host.com/500a.iso'
url2 = 'http://host.com/500b.iso'
url3 = 'http://host.com/500c.iso'

def do_nothing(*args):
    pass

@profile
def urlretrive_test(url):
    return urllib.urlretrieve(url)

@profile
def wget_no_bar_test(url):
    return wget.download(url, out='/tmp/', bar=do_nothing)

@profile
def wget_with_bar_test(url):
    return wget.download(url, out='/tmp/')

urlretrive_test(url1)
print '=============='
time.sleep(1)

wget_no_bar_test(url2)
print '=============='
time.sleep(1)

wget_with_bar_test(url3)
print '=============='
time.sleep(1)

urllib parece ser o mais rápido

Respondeu 03/11/2017 em 14:25
fonte usuário

votos
2

O código-fonte pode ser:

import urllib
sock = urllib.urlopen("http://diveintopython.org/")
htmlSource = sock.read()                            
sock.close()                                        
print htmlSource  
Respondeu 26/11/2013 em 14:21
fonte usuário

votos
1

Eu escrevi o seguinte, que trabalha em baunilha Python 2 ou Python 3.


import sys
try:
    import urllib.request
    python3 = True
except ImportError:
    import urllib2
    python3 = False


def progress_callback_simple(downloaded,total):
    sys.stdout.write(
        "\r" +
        (len(str(total))-len(str(downloaded)))*" " + str(downloaded) + "/%d"%total +
        " [%3.2f%%]"%(100.0*float(downloaded)/float(total))
    )
    sys.stdout.flush()

def download(srcurl, dstfilepath, progress_callback=None, block_size=8192):
    def _download_helper(response, out_file, file_size):
        if progress_callback!=None: progress_callback(0,file_size)
        if block_size == None:
            buffer = response.read()
            out_file.write(buffer)

            if progress_callback!=None: progress_callback(file_size,file_size)
        else:
            file_size_dl = 0
            while True:
                buffer = response.read(block_size)
                if not buffer: break

                file_size_dl += len(buffer)
                out_file.write(buffer)

                if progress_callback!=None: progress_callback(file_size_dl,file_size)
    with open(dstfilepath,"wb") as out_file:
        if python3:
            with urllib.request.urlopen(srcurl) as response:
                file_size = int(response.getheader("Content-Length"))
                _download_helper(response,out_file,file_size)
        else:
            response = urllib2.urlopen(srcurl)
            meta = response.info()
            file_size = int(meta.getheaders("Content-Length")[0])
            _download_helper(response,out_file,file_size)

import traceback
try:
    download(
        "https://geometrian.com/data/programming/projects/glLib/glLib%20Reloaded%200.5.9/0.5.9.zip",
        "output.zip",
        progress_callback_simple
    )
except:
    traceback.print_exc()
    input()

Notas:

  • Suporta uma chamada de retorno "barra de progresso".
  • Download é um .zip teste de 4 MB do meu site.
Respondeu 13/05/2017 em 21:33
fonte usuário

votos
1

Este pode ser um pouco tarde, mas eu vi o código do pabloG e não poderia deixar de acrescentar um os.system ( 'cls') para torná-la IMPRESSIONANTE! Confira :

    import urllib2,os

    url = "http://download.thinkbroadband.com/10MB.zip"

    file_name = url.split('/')[-1]
    u = urllib2.urlopen(url)
    f = open(file_name, 'wb')
    meta = u.info()
    file_size = int(meta.getheaders("Content-Length")[0])
    print "Downloading: %s Bytes: %s" % (file_name, file_size)
    os.system('cls')
    file_size_dl = 0
    block_sz = 8192
    while True:
        buffer = u.read(block_sz)
        if not buffer:
            break

        file_size_dl += len(buffer)
        f.write(buffer)
        status = r"%10d  [%3.2f%%]" % (file_size_dl, file_size_dl * 100. / file_size)
        status = status + chr(8)*(len(status)+1)
        print status,

    f.close()

Se executado em um ambiente diferente do Windows, você terá que usar algo diferente de 'cls'. No Mac OS X e Linux, deve ser 'claro'.

Respondeu 14/10/2013 em 03:54
fonte usuário

votos
0

Apenas por uma questão de exaustividade, também é possível chamar qualquer programa para recuperar arquivos usando o subprocesspacote. Programas dedicados para recuperação de arquivos são mais poderosas que as funções do Python, como urlretrieve, por exemplo, wgetpode baixar diretórios de forma recursiva ( -R), pode lidar com FTP, redirecionamentos, proxies HTTP, pode evitar arquivos existentes download re-( -nc), e aria2pode paralelizar downloads.

import subprocess
subprocess.check_output(['wget', '-O', 'example_output_file.html', 'https://example.com'])

Em Jupyter Notebook, também se pode chamar programas diretamente com a !sintaxe:

!wget -O example_output_file.html https://example.com
Respondeu 29/08/2018 em 12:24
fonte usuário

votos
0

por que não usar pycurl, construir-in módulo sobre PY2 & 3

import pycurl

FILE_DEST = 'pycurl.html'
FILE_SRC = 'http://pycurl.io/'

with open(FILE_DEST, 'wb') as f:
    c = pycurl.Curl()
    c.setopt(c.URL, FILE_SRC)
    c.setopt(c.WRITEDATA, f)
    c.perform()
    c.close()
Respondeu 08/08/2018 em 03:51
fonte usuário

votos
0

urlretrieve e requests.get é simples, no entanto, a realidade não. Eu tenho dados buscados para sites de casal, incluindo texto e imagens, os dois acima, provavelmente, resolver a maioria das tarefas. mas para uma solução mais universal sugiro o uso de urlopen. Como está incluído no Python 3 biblioteca padrão, seu código poderia rodar em qualquer máquina que execute Python 3, sem pré-instalação local-par

import urllib.request
url_request = urllib.request.Request(url, headers=headers)
url_connect = urllib.request.urlopen(url_request)
len_content = url_content.length

#remember to open file in bytes mode
with open(filename, 'wb') as f:
    while True:
        buffer = url_connect.read(buffer_size)
        if not buffer: break

        #an integer value of size of written data
        data_wrote = f.write(buffer)

#you could probably use with-open-as manner
url_connect.close()

Esta resposta fornece uma solução para HTTP 403 Proibido quando o download de arquivos através de HTTP utilizando Python. Eu tentei apenas solicitações e urllib módulos, o outro módulo pode oferecer algo melhor, mas isso é o que eu usei para resolver a maioria dos problemas.

Respondeu 13/03/2017 em 13:12
fonte usuário

Cookies help us deliver our services. By using our services, you agree to our use of cookies. Learn more