ひまつぶし雑記帖

スクレイピングをブロックされるの巻

2019/3/19 [16:25:45] (火) 天気

ISBNをキーに本の情報(タイトル、著者、書影)を求めて三千里、だ。

あらすじその1
かれこれ15年以上、ずっと利用させてもらっていたAmazon(PA-API)の利用条件が変更となり、うちのように売上のほとんどないサイトだと利用するのが難しくなった。
状態を見ていると、使えたり使えなかったり、というかほとんど使えないんだけど、時々使えることがある、といった感じ。その条件がよくわからない。

あらすじその2
PA-APIがそんな状態なもんだから、Amazonの商品ページをスクレイピングしてのデータ取得に変更。すんなりデータが取れた、と思う間もなく(ほとんど7日以内)スクレイピングがAmazonにブロックされてしまった。
データが取れなくなったんで、取得するHTMLを眺めたら、自動アクセスしているようだけどAPIがあるからそちらを使いなさい、というコメントが入っていた。
そもそもアマゾンは規約でスクレイピングが禁止されてるので、やっちゃいかんのだ。

てことでamazonについては、ほぼ利用できなくなった。
(アフィリエイトタグ、リンクやアカウントには問題はない。データベースとしてAmazonが使えなくなったということ。念のため)

何度も書いてるように4月になったら国立国会図書館がAPIを公開するので乗り換えを検討。
ただ、どんなAPIなのかどんなデータが使えるのか、実際に公開されてから確認となる。
いま公開していて、ユーザーさんが利用してくれているサイトもあり、いままさにどうするのかということで、繋ぎでいいのでなんとかしなければならない。

AmazonのPA-APIが不定でたまにしか使えない(たまに使えるからかえって未練たらたらとなる)
Amazonに対するスクレイピングは規約も不可。

ということで、その場しのぎのでっちあげ、というわたしの得意技。
AmazonのAPIを使ってページを公開しているサイトをピックアップして、そちらをスクレイピングすることにした。
アマゾン本家ではなくAPIを利用しているコバンザメからデータを持ってくる便所バエ作戦だ。

本のデータを取得するためだけに、文字通り機械的にアクセスするわけだから、そのサイトにとっては何の利益にもならない、ただの無駄なアクセスとなる。amazonのようにインフラも強固巨大なサイトならともかく、規模的に小さなサイトだとちょっとした負荷も迷惑でしかない。
さすがに申し訳ない。
のべつ幕なしリクエストを投げるようなことを避けるために自鯖内で期間限定のキャッシュすることにした。

図式的には
・本の情報が欲しい時はまず自鯖のキャッシュを確認
・キャッシュされていればそれを利用
・キャッシュになければPA-APIを利用してデータ取得を試す
・PA-APIでデータ取得できればそれを利用。取得したデータをキャッシュ
・利用制限でデータ取得できなかったら他サイトをスクレイピング。
・スクレイピングでデータ取得できればそれを利用。取得したデータをキャッシュ
てことにした。

キャッシュするのは、ISBN・タイトル・著者の基本3点セット。さらにデータがあれば書影のURL。
本のタイトルや著者をキャッシュすることは問題ないはずだけど、書影(画像)についてはたぶん権利関係がらみで面倒くさいことがあるだろう。
画像をダウンロードして利用するなどもちろんアウト…というかただの犯罪行為。
公開されている書影のURLについては問題ないと思うけど、書影を公開しているサイトと書影(画像)の権利者とでどのような約束があるのか不明で、おそらくずっと同じURLで公開しない。もしかしたらアクセスのたびにURLが変わることも考えられる。なので自鯖でのキャッシュを期間限定とした。


今回のことでちょっと調べてみたら、スクレイピング行為がなにやらマーケティングだのなんだので使われていて、スクレイピングについてのスキルを持っているといろいろ重宝されて優位に立ち回れるとのこと。

いやいや、ちょっと待てよ、だ。
公開されているものとはいえ、他人の著作物から、自分の都合の良いデータだけ切り取ってもってくるのがスクレイピング。そしてそのデータは権利者の意図とは違う使い方をされるのがほとんどだろう。カタカナ言葉でなんかごまかそうとしているけど、単なるタダ乗り行為。

なんちゃら猛々しいんじゃねえのかとか、便所バエの自覚はないのかと昭和老害は思うわけですな。
image
て、オライリーからこんな本まで出てるんだなぁ。ううううむ。ほんまかいな。

 

»電子書籍制作代行についてはこちら

電子図書館サービス

2015/3/19 [18:51:02] (木) 天気

いや、わたしの観測範囲だけど。
電子書籍を図書館に導入という話題がぼろぼろ流れてきている。

ひらたくいうと、図書館で電子書籍もかりられるようにしよう、ということ。
出版社、権利者にしてみれば、街の本屋だろうが図書館だろうが似たような蛇口のひとつだろう。粛々と図書館に向けての権利処理や利用方法・範囲のガイドラインなんかを詰めていけばいいだけのことだと思う。
(図書館に本の売上が食われて困るとかいう話もあったけど、図書館や学校が買い支えになって存続できる本もあるはずだから…なんとも)

以下のふたつのレポートとニュースがわかりやすい。

『KADOKAWA、講談社、紀伊國屋書店が設立した日本電子図書館サービスのビジネスモデル ── JEPAセミナーレポート』
http://www.wildhawkfield.com/2015/03/JEPA-seminar-JDLS-LibrariE.html
『楽天、米Overdriveの買収発表――電子図書館事業にも参入』
http://ebook.itmedia.co.jp/ebook/articles/1503/19/news123.html

(あれ? そういやこの楽天が買収したOverdriveってメディアドゥが業務提携したとかの話はどうなったんだっけ http://www.mediado.jp/corporate/1040/


そこでちょっと野次馬根性だったりするんだけど、やっぱここなのかなあと、過去雑記の焼き直し。

鷹野凌(@ryou_takano )さんのJEPAセミナーレポート

音声読み上げは?
TTS(合成音声)。読み上げ速度を可変できるようにしている。人が読み上げたオーディオブックも取り扱っていきたい。読み上げできない本もある(著作権者の許諾が必要)。



2014/11/11のレポート
『障害者差別解消法と公共図書館――電子図書館サービスへの期待とは』
http://ebook.itmedia.co.jp/ebook/articles/1411/11/news085.html

障害者差別解消法が施行されると、すべての公共図書館は障害のある人たちに対して合理的配慮が義務付けられる。点字図書や対面朗読といった従来の方法では、人員の面からも利用者の要求に応えることは難しくなるだろう。そこで注目されているものの1つが電子図書館サービスだ。



※内閣府「障害を理由とする差別の解消の推進」
http://www8.cao.go.jp/shougai/suishin/sabekai.html

法律の施行が平成28年4月1日てことは予算がつくのは今年の夏ぐらいか。
・法律で義務づけられる(罰則が入ると実効性が現実味を帯びるなあ)
・予算がつく(金が動くと普及に拍車がかかるよなあ)

電子書籍が対象の法律、というわけではないにしても、こんな具合に「図書館」+「電子書籍」の話題で盛りあがるのは電子書籍に追い風なことも確かだろう。
実際、電子書籍は「フォントの大きさが変えられる/画面のコントラストを変えらえる/音声を付けられる」とアクセシビリティということでいえば、この法律の要件を満たしているかも。

とはいえ、図書館に関しては。

「近畿視情協主催「どうなる! 電子書籍のアクセシビリティ ~ だれにも使える「本」の実現をめざして」#近畿視情協」
http://togetter.com/li/785303
という、まとめ記事の中に

しかし、公共図書館で電子書籍の話をするとデジタルバイドではないか、高齢者は紙の書籍を好むと言われて、意外と否定的な意見が多い。#近畿視情協201519


という意見もあって、たぶんこれが現場の現実感だと思うんで、なかなか簡単ではないような気もするし。


てことで、たまたま昨日、地元図書館で次の写経本を借りてきたのでありました。
全集や叢書の品揃え(?)は、図書館が強いなあ。
image 

»電子書籍制作代行についてはこちら

3台目

2008/3/19 [02:27:53] (水) 天気

こないだヤフオクで落札したLibretto50は、ISAバス周りがおかしくて、バッテリーでは動かないのがどうしてもひっかかった。いや、入札時にわかってたことなんだけどね。
で、さらにヤフオクを粘着してみてたら、3千円ジャンク扱い、というLibretto50(基盤は60らしい)が出ていたのでついつい落札。
こいつも内蔵の時計用電池がダメ、というのがわかっていたシロモノ。だけど、うちにある2台の時計用電池を移植すればいいや、と気楽に考えてた。今日届いたブツを開いてみると、基盤が60のもの、というだけじゃなくクロックアップの改造までしてある。こりゃスゲーと思いつつ、さっさと内蔵電池だ、とバラしてみたら、内蔵電池の部分のコネクタがなく、直付けにされていた。吃驚。がっかり。2本出ているコードを途中で切ってつなげればできないこともないだろうけど、まあいいか。
クロックアップの発熱対策だろうか、CPUの上にあたるところに10円玉がはりつけてあったなぁ。発熱の心配をしなきゃいけないっぽい。
しかし、久しぶりにWINDOWS95の画面を見て、新鮮だった。消してしまうのもナニだし(もともと正当なWINDOWS95を持ってたことだし)HDDは保管。FreeBSD-4.11のHDDを突っ込んで稼動。一晩つけっぱなしで様子見してみよう。

なんでだかこのLibretto50の佇まいというかなんというか、好きなんだよなぁ。

また咳がひどくなってきた。花粉症じゃないことを祈る。週末歯医者だし、それまでに咳がおさまってくれないとキツイなぁ。

»電子書籍制作代行についてはこちら

ゆっくりいちんち

2006/3/19 [19:18:18] (日) 天気

以前に左下の歯を抜いたときと同じく、今回も当然ながら歯を抜いたら痛みはなくなったな。とはいえ、モノが噛めないので噛み合わせが変。クチの中を噛んでしまう。まいったなぁ。
相方が妙な、というか「ド」マイナーなスポーツ観戦に誘われて出かけたので、今日はいちんち部屋で指輪物語を流しっぱなしでごろごろ寝たきりだ。大学時代のサークル仲間が同好会でゴールキーパーやってて、ほんとうにおっかないんだから、と言ってたのを思い出すが、どうもぴんとこないスポーツでありますです。
ついでに、というか。日記帳スクリプトの作成。データベースに投げるのでらくちん。…なんだけど、やっぱり見た目を気にしだすと、めんどうくさい。スタイルシートにしてもFireFoxとIEで対応が微妙に違う。うううむ。とりあえず書き散らして、まとめられそうなルーチンはパッケージに放り込み、まとめられそうな表示指定は外部CSSに投げる、かな。

そいや、ファファード&グレイマウザーをまだ買っていないというのに、今度はハヤカワからエルリックが復刻。どばっとまとめ買いして、休みをいちんちつぶしてお茶飲みながらゆっくり読みたいなぁ。どっちもヒロイックファンタジーの傑作。でも、最近は文庫の値段も高いのでまとめ買いするにはブックオフさまの出番待ち…か。

 

»電子書籍制作代行についてはこちら

週末は人並に

2005/3/19 [11:47:28] (土) 天気

昨日は。朝から歯医者で水道橋。型を取ったんで、ようやく次でかぶせものをして終了らしい。といっても、虫歯じゃなく、歯周病なので、かぶせものをしたところで歯のぐらつきが治まるわけでもない。とりあえず多少補強される、程度だろう。
その後相方と合流して吉祥寺をぶらつく。昼飯にカンデラおばさんのペペロンチーノは美味。ぼーっと街歩きして清龍だ。4時半という時間なのでもしかして一番乗り、と思ったらもう楽しげな話し声。おじいちゃんおばあちゃんとかおっさんおばはんとか。相変わらず平均年齢の高い飲み屋だ。
…で、風邪気味もあって大徳利2本に2合飲んだらふらふらと。さらに場所をまたきやという飲み屋に移して轟沈。
いや日本酒はおいしゅうございます。って、無職のくせにこんなことでええんか、と思ってみたり。もっとも、週末は職安も休みだし動きようもない。猫をいじってまったりさせてもらおうか。

来週もまた職安通いだ。
 [22:54:53] 
って、月曜も祝日だなんてつい今まで知らなかった!うううううう。しょうがねえな。相方んちに居座って、少しずつ猫どもとの距離をつめていくか。アルファ波にたゆたうためにじっくりと、やな。

»電子書籍制作代行についてはこちら

くつ下の穴

2004/3/19 [18:37:21] (金) 天気

今日の朝練は、飲みが入りそうなので、三鷹までの「歩き」1時間半。会社について、健康サンダルに履き替えようとして靴を脱いでずっこける(死語)
くつ下の、親指とかかとのところが、100年前のマンガのギャグのようにぱっくり穴をあけていた。自転車だとGパンのケツに穴が開くし、歩きだとくつ下をダメにするのか。…一銭も金のかからない貧乏人のフィットネスのつもりでいたけど、微妙に金がかかるかもなぁ。
しかたなく、今日は靴をはきっぱなし。足の指が痛くなるし、多分臭くなってるし、うんざりだ。

電車で、 電子書店パピレス で購入したかんべむさしの「むさしキャンパス記」を読んでて、まだ前半にもかかわらず、不覚にも泣かされてしまう。いや、この「むさしキャンパス記」、はじめて読んだ高校生の時も、大学に入ったばかりの頃に読み返した時も、大学の後半になって読み返した時も、社会人になったころに読み返した時も、やっぱり泣かされて、厄年が終わって読み返しても泣かされてるのだ。
いちいち主人公「かんべむさし」にどっぷり感情移入してしまう。その時々で違う場面だったり、やっぱり同じ場面だったりするんだけど、とにかくどこかで必ずほとんど同一視するほどの感情移入を誘われる。
あまり評判になっていないと思うけど、わたしの中では、かんべむさしのこの「エッセイ」は「青春小説」の色褪せることのない大傑作なのだ。

 
ここんとこ他の電子書籍も漁ってて、 NHK出版文庫 のプロジェクトXも面白そうかな、と。一本100円だし。キャンパス記とかこないだ落とした青空文庫が終わったら、こっちを読んでみるかも。漁ってみるといろいろあるもんだ。

今日の弁当。きゅうり・イカの炒め物、鶏肉炒め、じゃこオム、おにぎり。

一本30円のきゅうりが炒め物ラインナップに入るので、安い美味い炒め物となりますです。

»電子書籍制作代行についてはこちら

profile

profile

 
doncha.net
名前:
飯田哲章
mail:
t2aki@mrh.biglobe.ne.jp
twitter:
t2akii

WEBサービス制作/電子書籍制作

検索
<<2019/03>>
     12
3456789
10111213141516
17181920212223
24252627282930
31

リンク

WINDOWS版サウンドノベル
おかえりください PC WINDOWS版サウンドノベル
『おかえりください』体験版

iPhone電子書籍アプリ
小説同人誌Select iPhone電子書籍アプリ
『小説同人誌Select』

[2 Page] »
1 2

TOTAL:2874

2019 (13)
1 (3)
2 (4)
3 (2)
4 (2)
5 (1)
6 (1)
2018 (21)
1 (3)
2 (2)
3 (2)
4 (1)
5 (1)
6 (6)
8 (1)
9 (1)
10 (2)
12 (2)
2017 (32)
1 (2)
2 (1)
4 (2)
5 (1)
6 (6)
7 (3)
8 (5)
9 (3)
10 (2)
11 (2)
12 (5)
2016 (41)
1 (5)
2 (5)
3 (2)
4 (3)
5 (4)
6 (6)
7 (2)
8 (2)
9 (3)
10 (1)
11 (4)
12 (4)
2015 (99)
1 (11)
2 (12)
3 (9)
4 (6)
5 (8)
6 (8)
7 (3)
8 (5)
9 (16)
10 (6)
11 (1)
12 (14)
2014 (112)
1 (16)
2 (5)
3 (6)
4 (12)
5 (16)
6 (19)
7 (9)
8 (6)
9 (4)
10 (8)
11 (6)
12 (5)
2013 (145)
1 (24)
2 (15)
3 (18)
4 (23)
5 (14)
6 (11)
7 (7)
8 (11)
9 (5)
10 (4)
11 (6)
12 (7)
2012 (103)
1 (1)
2 (1)
3 (4)
4 (3)
5 (7)
6 (26)
7 (17)
8 (5)
9 (8)
10 (10)
11 (11)
12 (10)
2011 (54)
1 (4)
3 (7)
4 (4)
5 (14)
6 (6)
7 (3)
8 (3)
9 (1)
10 (4)
11 (2)
12 (6)
2010 (70)
1 (12)
2 (7)
3 (6)
4 (6)
5 (3)
6 (10)
7 (6)
8 (4)
9 (3)
10 (4)
11 (3)
12 (6)
2009 (144)
1 (15)
2 (12)
3 (12)
4 (6)
5 (15)
6 (6)
7 (10)
8 (9)
9 (17)
10 (12)
11 (14)
12 (16)
2008 (148)
1 (10)
2 (6)
3 (10)
4 (11)
5 (13)
6 (10)
7 (13)
8 (19)
9 (18)
10 (12)
11 (13)
12 (13)
2007 (106)
1 (7)
2 (5)
3 (3)
4 (7)
5 (5)
6 (9)
7 (8)
8 (13)
9 (18)
10 (11)
11 (8)
12 (12)
2006 (158)
1 (28)
2 (28)
3 (25)
4 (7)
5 (9)
6 (7)
7 (12)
8 (13)
9 (10)
10 (7)
11 (6)
12 (6)
2005 (350)
1 (31)
2 (26)
3 (26)
4 (27)
5 (29)
6 (30)
7 (32)
8 (30)
9 (30)
10 (32)
11 (29)
12 (28)
2004 (292)
1 (24)
2 (24)
3 (29)
4 (27)
5 (28)
6 (25)
7 (26)
8 (24)
9 (12)
10 (19)
11 (26)
12 (28)
2003 (318)
1 (22)
2 (25)
3 (21)
4 (28)
5 (28)
6 (28)
7 (28)
8 (29)
9 (26)
10 (29)
11 (28)
12 (26)
2002 (317)
1 (29)
2 (26)
3 (26)
4 (25)
5 (28)
6 (30)
7 (27)
8 (21)
9 (25)
10 (27)
11 (28)
12 (25)
2001 (277)
1 (17)
2 (21)
3 (23)
4 (20)
5 (31)
6 (18)
7 (26)
8 (25)
9 (29)
10 (19)
11 (24)
12 (24)
2000 (53)
6 (9)
7 (4)
8 (2)
9 (3)
10 (1)
11 (15)
12 (19)
1999 (3)
7 (1)
10 (2)
1998 (18)
9 (9)
10 (7)
11 (2)