ALT Linux Team development discussions
 help / color / mirror / Atom feed
From: Paul Wolneykien <manowar@altlinux.org>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] масштабируемость репозитория
Date: Sat, 24 Dec 2011 03:40:21 +0400
Message-ID: <4EF51165.3090602@altlinux.org> (raw)
In-Reply-To: <20111223231702.GA16236@altlinux.org>

24.12.2011 03:17, Dmitry V. Levin пишет:
> On Sat, Dec 24, 2011 at 01:15:15AM +0400, Денис Смирнов wrote:
>> В итоге единственное чем _мешает_ массовый импорт из федоры
>> пользователям/мантейнерам -- то что наш apt плохо масштабируется. И чем
>> больше пакетов, тем он тормознее.
> 
> apt масштабируется пропорционально размеру индексов.  Так что, строго
> говоря, тормознее он становится не столько вследствие импорта из федоры,
> сколько от роста пакетной базы.
> 
> Есть два независимых метода борьбы с этим торможением:
> - Сделать apt существенно быстрее, чтобы эффект торможения не так сильно
> раздражал; мы думаем над этим.
> - Разделить пакетную базы на части.  Критериев, по которым можно было бы
> делить, я полагаю, каждый может назвать несколько.  Самым безболезненным
> типом деления является выделение кластеров пакетов по критерию
> независимости: если есть некоторое подмножество пакетов, которое не
> используется для установки и сборки всех остальных пакетов, то его можно
> было бы выделить без риска потерять связность репозитория.

  Мне кажется, что сборка — это всё таки специфический случай: тот, кто
собирает пакеты уже готов идти на определённые затраты ресурсов и может
подключит все индексы. Может быть стоит искать кластеры только по
критерию локально-независимой устанавливаемости?

> Если такое
> подмножество достаточно велико, то и компенсация эффекта торможения тоже
> будет достаточно заметна.  Примером такого кластера, наверное, является
> множество debuginfo-пакетов.  Интересно, существуют ли какие-то другие
> крупные кластеры этого типа?

  Их можно целеустремлённо создавать. Если пакет тянет за собой огромный
кластер из-за какой-нибудь опциональной фичи, то можно и нужно делать
облегчённую версию этого пакета, который бы не тянул за собой лишнего.

  Возможно, выпуском таких облегчённых версий могут заниматься роботы.
Их задачей может стать «прогрызание» плотной ткани репозитория вокруг
тех областей, в которых намечаются кластеры. В результате надкусывания
пакета, образуются две его версии: тежёлая и лёгкая. Лёгкая идёт в один
кластер, а тяжёлая — в другой. Общее число пакетов станет больше, но
появятся кластеры.


  reply	other threads:[~2011-12-23 23:40 UTC|newest]

Thread overview: 25+ messages / expand[flat|nested]  mbox.gz  Atom feed  top
2011-12-23 21:15 [devel] robots VS sisyphus Денис Смирнов
2011-12-23 23:17 ` [devel] масштабируемость репозитория Dmitry V. Levin
2011-12-23 23:40   ` Paul Wolneykien [this message]
2011-12-24 10:21   ` Денис Смирнов
2011-12-24 13:22     ` Alexei Takaseev
2011-12-24 10:33   ` Igor Vlasenko
2011-12-24 10:41   ` thecrux
2011-12-24 15:08   ` thecrux
2011-12-25 15:03   ` Денис Смирнов
2011-12-26 12:02   ` Michael Shigorin
2011-12-25  4:47 ` [devel] robots VS sisyphus Alexey Tourbin
2011-12-25 11:55   ` thecrux
2011-12-27 18:53     ` Alexey Tourbin
2011-12-25 14:53   ` Денис Смирнов
2011-12-27 19:29     ` Alexey Tourbin
2011-12-28 16:02       ` [devel] [JT] " Igor Vlasenko
2011-12-26 11:16   ` [devel] " Sergei Epiphanov
2011-12-27 20:09     ` Alexey Tourbin
2011-12-28  7:27       ` Sergei Epiphanov
2011-12-28  7:50         ` [devel] apt performance (was: robots VS sisyphus) Michael Shigorin
2011-12-28  8:43           ` Sergei Epiphanov
2011-12-26 16:42   ` [devel] robots VS sisyphus Dmitry V. Levin
2011-12-27 18:59     ` Alexey Tourbin
2011-12-27 20:55     ` Alexey Tourbin
2011-12-27 23:57       ` Dmitry V. Levin

Reply instructions:

You may reply publicly to this message via plain-text email
using any one of the following methods:

* Save the following mbox file, import it into your mail client,
  and reply-to-all from there: mbox

  Avoid top-posting and favor interleaved quoting:
  https://en.wikipedia.org/wiki/Posting_style#Interleaved_style

* Reply using the --to, --cc, and --in-reply-to
  switches of git-send-email(1):

  git send-email \
    --in-reply-to=4EF51165.3090602@altlinux.org \
    --to=manowar@altlinux.org \
    --cc=devel@lists.altlinux.org \
    /path/to/YOUR_REPLY

  https://kernel.org/pub/software/scm/git/docs/git-send-email.html

* If your mail client supports setting the In-Reply-To header
  via mailto: links, try the mailto: link

ALT Linux Team development discussions

This inbox may be cloned and mirrored by anyone:

	git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git

	# If you have public-inbox 1.1+ installed, you may
	# initialize and index your mirror using the following commands:
	public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
		devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
	public-inbox-index devel

Example config snippet for mirrors.
Newsgroup available over NNTP:
	nntp://lore.altlinux.org/org.altlinux.lists.devel


AGPL code for this site: git clone https://public-inbox.org/public-inbox.git